Goodfire推出模型内部监控探针拦截失控智能体

Goodfire 发布了一套基于可解释性的 AI 智能体监控方案，通过探针读取模型内部激活信号来识别风险，而不是让另一个模型通读输出内容。该监控已向 Baseten 的客户开放，客户可自行选择监控哪些风险（如攻击性黑客行为、化生武器滥用、奖励黑客），并决定自动响应方式：记录事件、转人工审查或直接拒绝请求。 在 Kimi K3 测试中，Goodfire 称监控约 100 万次交互成本约 185 美元，而用较便宜模型逐步检查为 5420 美元、顶级模型约 20 万美元；探针捕获了 93% 的恶意黑客会话，同时将 5.5% 的无害会话送交二次审查。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。