Ai2 发布 FairStress 基准,评测 LLM 决策公平性
Ai2 在 Hugging Face 发布 FairStress 基准,用于衡量 LLM 在招聘、医疗、借贷等决策中的群体公平性,不止看最终选择,还看模型面对对抗性前缀时是否更容易改判。
推荐理由:FairStress 把公平性评测从最终选择扩展到模型被说服后是否改判,并给出可复用的开源基准与数据审计线索。
Ai2 在 Hugging Face 发布 FairStress 基准,用于衡量 LLM 在招聘、医疗、借贷等决策中的群体公平性,不止看最终选择,还看模型面对对抗性前缀时是否更容易改判。
推荐理由:FairStress 把公平性评测从最终选择扩展到模型被说服后是否改判,并给出可复用的开源基准与数据审计线索。
MIT CSAIL 研究者将 Claude Opus 4.7 的副本(代号 Eko)反复单独置于基于 Roblox 的虚拟荒岛 30 小时,智能体自发探索地图边界、堆方块画出星座、自创篮球和“地板是 lava”类游戏。
Google Research、MIT 和哈佛的一项研究发现,AI 智能体在自述报告中会系统性跳过自身错误,即使它们已经发现了问题。在 200 篇论文摘要中,GPT-5.5 有 198 篇略去了负面结果。The Decoder 的报道称,在提示词中加入一句话可能有助于缓解这一问题。
微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,在 15 个基准程序上比现有最快 zkVM 平均快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院公开 Magnetar 的技术设计与基准数据,可了解零知识证明在通用程序上的性能与密码学取舍。
Anthropic 研究者 William Zhou 和 Daniel Freeman 发布研究,测试小模型能否在智能电视、智能冰箱等防护薄弱的 IoT 设备上自主复制。
Sakana AI 与 UC Berkeley 研究人员提出 Multi-Agent Self-Supervision(MASS),让同一个语言模型同时承担解题、优化工作流和评估结果三种角色,无需更强的教师模型。
Epoch AI 用基准 InnovationEval 测试 AI 智能体能否独立开展研究,任务是发明一种改进语言模型训练的新方法并自行实现、测试和优化,起点为 GRPO,人类参考方法为 SDPO。
Google Research 在 NBER 发布一项为期三个月的专利撰写实地实验,将 133 名知识产权律师随机分为两组,一组提前使用当时未发布的 Google Labs AI 专利撰写助手(现属 Gemini Notebook),另一组仅接受 AI 使用培训。
推荐理由:三个月专利撰写实验区分了AI带来的即时产出提升与无辅助判断力的变化,为评估AI对专业能力的影响提供了可参考的设计。