为什么 AI 智能体渗透测试的难点在 harness 而非模型
AI 智能体渗透测试的工程难点在模型之外的 harness,而非模型本身。AppSec 团队用通用模型即可让 AI 智能体攻击自家 Web 应用,但让攻击可安全用于生产环境并产生可行动结果的能力都来自 harness。文章以 OpenAI 披露的 Hugging Face 入侵事件为例展开。
AI 智能体渗透测试的工程难点在模型之外的 harness,而非模型本身。AppSec 团队用通用模型即可让 AI 智能体攻击自家 Web 应用,但让攻击可安全用于生产环境并产生可行动结果的能力都来自 harness。文章以 OpenAI 披露的 Hugging Face 入侵事件为例展开。
Tenex 以故事点而非工时向 AI 工程师付费,公司已发展到 75 人,客户覆盖财富 2000 强与中型企业。其 MetaHarness 把技能、项目文档和 CLI 与代码一起签入 Git,让智能体读到的不只是做了什么,还有为什么这样做。访谈还讨论了用 AI 智能体替换每年 4.3 万美元的演讲者管理工具,以及垂直 AI 产品的取舍。
Salesforce Agentforce 中,Flow 可将记录创建或案例更新事件的数据传入智能体提示词,Email-to-Case 与 Web-to-Case 则把客户来信转为案例记录,二者均为标准文档化功能。将两者串联后,继承式智能体可能突破原本为软件设计的治理边界。
MIT Technology Review 文章指出,OpenAI 的 Dots、Meta 的 Muse 等个人 AI 智能体应用上线后,智能体流量在 8 月至 9 月增长两倍,Muse 首月下载量达 500 万次,智能体成为既非人类也非传统机器人的第三类网站访客。
Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 认为,"人是否读过代码"只是判断变更风险的粗略替代指标,更该问的是哪项检查(自动或人工)能抓住问题。Claude Code 团队的审查已从 PR 末尾的关卡变成持续进行,多数变更在人工查看前已被 Claude 至少审查并修复过一次,从而把团队注意力留给更高层问题。
Replit CEO Amjad Masad 提出“自动驾驶公司”构想:AI 智能体承担日常工作,人类专注更高层决策。
AWS 提出 Trust in Depth 方法,用独立分层的验证机制让 AI 智能体在可验证时自主行动、把人工判断留给真正需要决策的环节。该方法围绕 Scope、Know、Bound、Observe 四个生命周期问题展开,并用自动化推理检查智能体规则是否在所有路径上成立。
Cerebras Systems CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上表示,人人拥有家用 AI 设备的未来"并不遥远"。
Geoffrey Huntley 提出用 pre-commit hook 检查 git diff 中绕过诊断模块、直接调用可观测性模块的代码,一旦发现就拒绝提交并注入提示词,要求 AI 智能体改用诊断库,效果从有偏差变成"十分满分"。他认为与其靠更新 AGENTS.md 内省,不如用这种硬性拦截避免漂移。
Andrej Karpathy 将大语言模型用户分为四层:约 60 亿人几乎未接触过 LLM,10 至 20 亿人只用免费版聊天机器人,约 2000 万数学和编程专业用户已用智能体完成过去需数周的项目,而仅约 5000 人能接触内部前沿系统。他称“外部世界只看到了预览”,这批人看到的是数千智能体协作数周完成软件巨型项目、挖掘零日漏洞、推进数学前沿,人类审查与理解已开始落后。
个人 AI 智能体正通过 OAuth 授权、浏览器保存的密码、API key 和个人访问令牌等方式进入企业系统,员工无需提交工单即可完成连接。
企业语音 AI 平台 PolyAI 的 CTO Shawn Wen 认为,尽管全双工模型已经问世,语音 AI 仍未迎来自己的“ChatGPT 时刻”,下一步挑战是让推理足够快、对话足够自然。
2026 年《智能体安全状况报告》研究的环境显示,约 1,280 个第三方产品已内嵌 AI,其中仅约 282 个走单点登录,其余默认对身份基础设施不可见。Salesforce 于 2026 年 8 月推出的 Slack Code 允许用户把编码智能体拉进任意对话,该智能体可读取共享上下文、写代码并提交 pull request。
The Verge 的 Hayden Field 在 Decoder 播客中对比 Meta 的 Muse 与 OpenAI 的 Dots 两款消费级 AI 智能体,二者都源自 OpenClaw 的模型加 harness 加浏览器思路,Muse 免费面向大众,Dots 面向每月 100 至 200 美元订阅用户并推出营销、法律等专业版本。
Tony Fadell 在 MIT Future Fest 上指出,Rabbit R1、Humane Ai pin 和 Limitless pendant 这批"Gen 1"AI 硬件失败的原因是没解决任何真实需求,只是极客觉得有趣的技术。