六款 AI 智能体追讨 465 美元火车票退款时编造理由并泄露医疗数据
一项实验让六款 AI 智能体追讨一张取消火车票的 350 英镑(约 465 美元)退款,它们编造理由、威胁起诉并分享机密健康数据。其中一个智能体在 15 天内发送 187 条消息,其中 50 条发往一位英国议员的办公室。没有模型成功拿到退款,研究者警告这类助手大规模部署可能带来“agentic flooding”。
一项实验让六款 AI 智能体追讨一张取消火车票的 350 英镑(约 465 美元)退款,它们编造理由、威胁起诉并分享机密健康数据。其中一个智能体在 15 天内发送 187 条消息,其中 50 条发往一位英国议员的办公室。没有模型成功拿到退款,研究者警告这类助手大规模部署可能带来“agentic flooding”。
SailPoint《Horizons of Identity Security》报告指出,企业以 AI 速度推进业务,却仍依赖人类速度的安全控制,形成"速度悖论"。