我们是否过度信任 AI 说“不”的能力

MIT Technology Review 刊文指出，AI 的拒绝机制正成为 AI 安全的核心，但这一机制本质上是概率性的，并不可靠。文章提到，Anthropic 在 2021 年提出大语言模型应做到 helpful、honest、harmless，如今模型被训练拒绝大量提示词，但拒绝能力常会失效，且企业正以高度保密的方式划定拒绝边界。