跳到正文
TechCrunch · AI· Aditya Mehta·· 14 天前AI 评分60

Goodfire 推出模型内部监控探针,经 Baseten 向客户开放

Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost

AI 导读

Goodfire 发布一种在模型内部读取激活信号的监控探针,通过 Baseten 向客户提供,用于识别 AI 智能体的越界行为。探针复用模型前向计算中的中间激活并接分类器,只在命中时才调用另一个 AI 模型复核;在 Kimi K3 上监控约 1500 个会话成本约 51 美元,对比逐句复核的 233 美元和顶级模型的约 1 万美元。

来源:TechCrunch · AI · techcrunch.com