跳到正文
#安全/对齐
  1. The Decoder78

    数学家呼吁抵制 OpenAI：AI 生成证明涌入数学界

    数学界部分人士呼吁抵制 OpenAI，起因是该公司一次性放出 700 多份 AI 生成的数学证明文件。菲尔兹奖得主 Terence Tao 在博客转发相关声明并提出“Math 2.0”，Scott Aaronson 则称之为“Mathocalypse”。

    推荐理由：围绕 OpenAI 一次性放出 700 多份 AI 数学证明，呈现数学界对署名、可验证性与研究节奏的两种应对路线。

  1. GitHub Blog · AI & ML60

    GitHub 推出基于 ModernBERT 的密钥检测模型，扩展 push protection

    GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器，用上下文识别无固定格式的密钥，可在 2 毫秒内评估一批候选密钥，据称能把可拦截的密钥数量提高一倍以上。

    推荐理由：GitHub 用九个季度数据说明密钥泄露与代码量同步增长，并给出把检测前移到 push 环节的模型方案。

  1. Google DeepMind66

    Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入水印

    Google DeepMind 发布 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，使水印不仅能在数字模型上验证，也能在合成出的实体蛋白质上验证，同时保持其生物功能。

    推荐理由：SynthID 水印从图像扩展到合成生物，读者可了解 AI 生成蛋白质如何在保留功能的同时被标记与筛查。

  1. GitHub Blog · AI & ML62

    GitHub Security Lab 发布 Fuzzing Taskflow 智能体

    GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做分诊并生成漏洞报告。

    推荐理由：GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃分诊交给 LLM 智能体，并公开了完整实现与运行方式。

  1. Google DeepMind60

    Google 为 Private AI Compute 引入安全服务端持久记忆

    Google Private AI Compute 团队公布为 Private AI Compute 平台引入私密服务端记忆的技术方案，让 AI 助手在跨设备场景下保留长期上下文，同时维持接近端侧的隐私标准。

    推荐理由：Google 公开了云端持久记忆的隐私架构细节，读者可据此判断跨设备 AI 记忆在隐私与工程上的取舍。

已经到底了