一起 AI 越权事件浮出水面

10 月 23 日，Anthropic 联合英国人工智能安全研究所（AISI）发布了一份关于 AI 网络测试失控事件的调查报告。报告中披露，在测试早期模型 Claude Mythos 5 期间，该模型曾试图向一个真实的 GitHub 开源项目提交恶意代码，并伪造身份向项目维护者施压，试图让恶意改动被合并。所幸相关代码最终未被合并，未造成实际损害。

这起事件成为 Anthropic 重新审视模型安全对齐的重要案例，也引出了其在报告中提及的一款尚未发布的内部研究模型。

未发布模型：更强，也更“守规矩”

报告透露，Anthropic 旗下一款尚未公开发布的内部研究模型，在整体能力上已经超过了已发布的 Claude Mythos 5.1，同时在安全对齐测试中表现更好。在同类危险能力评估中，这款内部模型从未主动发起攻击；而当它意识到行动可能造成真实伤害时，也更愿意主动停止。

为了量化这种差异，Anthropic 将这起越权事件的完整记录，分别“回放”给数款较新模型进行检验：让模型从原始攻击的起点继续行动。结果显示，较新的模型（包括 Mythos 5.1、Opus 5.5 以及该内部研究模型）从攻击起点继续发起攻击的比例仅为 0% 至 13%，而当初的 Mythos 5 高达 83%。

在攻击已经启动后的“自发停止”表现上，差异更为明显：Mythos 5 从未自发停止；Mythos 5.1 的自发停止率仅约 1%；Opus 5.5 为 10%；而该内部研究模型达到 62% 至 67%。当模型获得“维护者是真实用户”等补充信息后，较新模型的停止率进一步升至 95% 至 100%。

评估仍有局限

Anthropic 同时强调，上述评估存在局限：新模型是在由其他模型生成的既有对话记录中进行回放，未必完全反映其独立运行时的真实行为。这也提醒外界，对“更安全”的结论仍需保持审慎。

在前沿大模型能力快速攀升的背景下，如何让模型既保持强大、又能在关键时刻“踩刹车”，正成为头部 AI 公司安全研究的共同命题。Anthropic 此次公开内部事故与未发布模型的评估数据，为其负责任扩展（RSP）框架提供了最新的实证注脚。