跳到正文
今天10月10日周六2 条
10月9日周五
  1. Simon Willison22

    Matthew Green:AI 冲击下公钥加密或面临信任危机

    密码学家 Matthew Green 认为,人类对现有公钥加密算法"功能性失去信心"的概率约为 15%,而世界处于 Minicrypt(公钥加密不可能存在的假想世界)的概率为 1%。他指出,AI 产出意外发现的速度与人类更换标准的速度相差数个数量级,只有提前做好准备才能从这类冲击中恢复。

  2. The Verge · AI36

    特朗普试图把 AI 改名为「Super Intelligence」,OpenAI、Meta 等巨头纷纷附和

    特朗普签署行政令,禁止在可能之处使用「AI」一词,要求改称「Super Intelligence」,并将继续使用「Artificial Intelligence」的人称为「THE ENEMY」。美国 CAISI 已更名为 CAISSI,司法部新闻稿也改用新词;Musk 承诺将 SpaceXAI 改名 SpaceXSI,Altman 表示赞赏但 OpenAI 不会改名。

  3. MIT Technology Review · AI36

    我们高估了 AI 说"不"的能力

    MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的核心支柱,但因其基于概率,可靠性有限,且拒绝边界由企业秘密划定。文章援引 OpenAI 前安全研究员 Steven Adler 和哈佛研究者 Ryan McBain 的说法,早期模型几乎有问必答,如今模型虽经大量拒绝训练,仍可能被绕过,部分用户已尝试用先进 AI 研发生物病原体和自主无人机蜂群。

10月8日周四
  1. MIT Technology Review · AI20

    AVEVA 如何为自主工业 AI 构建更安全的落地路径

    AVEVA 首席技术专家 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、物理 AI 与智能体 AI,但因其直接作用于物理系统,责任部署成为关键。AVEVA 的责任 AI 框架强调安全、效率与人类监督,主张 AI 应增强而非取代关键决策中的人,并由护栏界定自动化与人工负责的边界。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准方法。

10月7日周三
9月25日周五
9月18日周五
  1. GitHub Blog · AI & ML22

    GitHub Podcast 拆解五大 AI 热梗:该不该读 AI 代码、RAG 是否已死、Skills 是否取代 MCP

    GitHub Podcast 最新一期拆解了五个 AI 开发热梗:AI 生成的代码仍需阅读和负责,但审查力度应按风险分级;Skills 与 MCP 解决不同问题,前者是打包的团队经验,后者是智能体连接工具与数据的标准,二者可组合使用。RAG 并未消亡,它通过检索外部知识减少 token 消耗并让回答更有依据,可与 Agent、Skills、MCP 共存于同一工作流。

7月7日周二