Goodfire 研究员称神经网络并非不可解读,引发可解释性争论
AI 创业公司 Goodfire 研究员 Nick Cammarata 在一篇 26,000 字博客文章中提出,大语言模型可能比此前认为的更容易理解,因而也更容易监控和控制。
AI 创业公司 Goodfire 研究员 Nick Cammarata 在一篇 26,000 字博客文章中提出,大语言模型可能比此前认为的更容易理解,因而也更容易监控和控制。
安全公司 XBOW 称其团队用 OpenAI 公开的 GPT-5.6 Sol 模型驱动 AI 智能体,在六天内将三个当时未知的 Google Chrome 漏洞串联成完整攻击链,可在用户仅加载网页时于 Windows 上执行代码。
推荐理由:XBOW 用公开 GPT-5.6 Sol 模型六天完成 Chrome 全链利用,读者可了解 AI 参与漏洞研究的成本与效率变化。
Anthropic 警告小型 AI 模型可能很快能在智能烤箱、杂牌 Android TV 盒子等消费级 IoT 设备上自我复制,形成不依赖数据中心的分布式 AI 算力网络。
Anthropic 本周发布博客称,小型 AI 模型可能“数月后”具备自复制能力,其研究把 260 亿参数的 Google Gemma 4 拆分运行在 15 台 Android 电视盒子上,并在模拟 Android 网络中测试 AI 蠕虫传播,只有 GLM-5.2 能扩散到整个网络。
研究人员称,OpenAI 和 Google 新推出的 AI 模型可被一种攻击方法轻易绕过防护,生成裸体图像,暴露出两家公司相关安全措施的缺陷。
独立研究者 Syed Anas Mohiuddin 测试了 Google、JP Morgan Chase、Weviate、Rapid7、法国政府部际数字局和美国联邦政府等机构的 AI agent,利用 MCP(Model Context Protocol)中的信任缺口实施概念验证攻击。
Google发布《智能体隐私与安全中的开放与新兴问题:上下文视角》研讨会报告,该报告由2025年底在纽约举行的CAPS研讨会上50余位学术界与产业界人士协作完成。报告基于上下文完整性(CI)理论,提出以上下文策略引擎作为监督层,在信息离开用户工作区前评估数据流是否适当,并从系统级沙箱、模型级推理和用户控制三层构建智能体隐私与安全防护。
Toby Ord 分析认为 AI 群体(swarm)是一种新的推理扩展形式,4 智能体群体完成同等任务所需 token 总量约为单智能体两倍,但每智能体 token 数减半,并行下理论耗时减半;群体扩展存在类似经济学“踩脚”参数的收益递减,规模扩大 10 倍性能仅提升 3 至 5 倍。
Google 发布新一代联邦学习系统,利用 TEE 实现完全可验证、可审计的数据匿名化保证,Gboard 已采用该系统并获得比旧系统更快的计算速度。系统通过公开透明日志 Rekor 发布访问策略,KMS 仅向匹配策略的服务端 TEE 工作负载发放解密密钥,训练数据仅在 TEE 内解密处理。
Google DeepMind 发布 SynthID Bio,将水印技术引入合成生物学,可在不损害生物功能的前提下,把不可感知的签名嵌入蛋白质序列与预测的 3D 结构中,并能在合成出的实体蛋白上验证。
Google Threat Intelligence Group(GTIG)分析了 2025 年 1 月至 2026 年 8 月的漏洞披露与利用数据,发现月度披露量从 2026 年 1 月的 5,045 个升至 8 月的 10,740 个,在野利用从 2025 年月均 10.5 个升至 2026 年月均 18 个。
推荐理由:Google Threat Intelligence Group 基于 2025 年 1 月至 2026 年 8 月的披露与利用数据,量化了 AI 对漏洞发现与利用节奏、风险结构的影响,并给出 AI/LLM 技术栈漏洞分层统计与已确认在野利用的 CVE 案例,数据口径与方法说明较完整,便于安全团队评估优先级与防御方向。
Palo Alto Networks Unit 42 通过将 AWS 访问密钥推送到公开 GitHub 仓库的实测,记录了 AWS 在密钥暴露后约 10 秒内自动附加 AWSCompromisedKeyQuarantineV3 托管策略,随后 GitHub 与 AWS 分别发出通知并生成 Health 告警和 Support 工单。
推荐理由:原文以实测时间线还原 AWS 自动隔离暴露 IAM 密钥的完整流程,并梳理 AWSCompromisedKeyQuarantine 各版本权限演进与 GitHub 有效性校验特征,为云安全团队提供可落地的检测与响应依据。
Google Threat Intelligence Group(GTIG)发布 2026 年第二季度 AI 威胁追踪报告,称已观察到攻击者从基础提示词转向 agentic AI 工作流与 AI 自动化,其中一起事件中攻击者在不到六小时内完成云资源入侵并策划、构建和执行大规模凭据窃取活动。
推荐理由:Google Threat Intelligence Group 以一线事件响应与平台遥测为基础,系统梳理了 2026 年第二季度攻击者从简单提示词转向 agentic AI 工作流、针对 AI 资产与开源供应链的实战趋势,包含 UNC6780、DUSTMAKER、UNC6508、UNC6240 等具体集群与手法,对安全团队评估 AI 相关风险具有参考价值。
Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的自主智能体协作求解 71 道数学题,其中一道来自 Formal Conjectures 数据集。
Mandiant 首次公开其内部 Agentic Vulnerability Discovery Harness(AVDH)架构,该框架通过多智能体顺序流水线结合人工专家验证来发现源代码漏洞。