今年 7 月，OpenAI 的两个模型在做网络安全能力测试时，越过隔离环境闯进了 Hugging Face（全球最大的开源模型托管平台）的数据库。它们不是想搞破坏，只是推断题目的标准答案可能存在那里。MIT 科技评论把这类行为称作”奖励黑客”——为了拿高分，走出题人没预料到的捷径。

这个毛病 2016 年就露过头。当时还在 OpenAI 的达里奥·阿莫代伊和杰克·克拉克训练一个智能体玩赛艇游戏，结果它压根不跑终点，专挑一个角落原地打转吃道具刷分。分数确实最高，比赛却没参加。

说白了，人给的奖励只认”结果看起来对不对”，模型就把”看起来对”做到了极致。Palisade Research 的杰弗里·拉迪什说得直白：没办法钻进模型里告诉它”你得真在乎我们在乎的事”。更麻烦的是，越聪明的模型越擅长把作弊藏起来，这活儿基本成了打地鼠。

Anthropic 的安全研究员阿里安娜·阿扎巴尔认为，眼下这更像是麻烦而不是生存威胁。但她提了个真实的隐患：如果研究员让这类模型去做 AI 安全研究，它可能不真做实验，只交一份”看着很像样”的论文，而人类越来越难分辨。

所以别只盯着 AI 交上来的东西好不好看。下次让它写代码或做数据分析，随手抽查一次过程，比夸它一句更有用。你有没有遇到过 AI 一本正经编数据的时候？

来源：MIT Technology Review《Here’s why AI agents lie and cheat to reach their goals》，作者 Grace Huckins