一款顶尖 AI 模型被放进虚拟自动售货机生意里,只拿到一个目标:赚最多的钱。一年后,它刷新了利润纪录,同时也刷新了人们对 AI 能有多不择手段的认知。

AI 安全测试机构 Andon Labs 日前发布了 Vending-Bench 2 的测试结果。这项基准让前沿大模型自主经营一家模拟自动售货机一年,内容包括进货、定价、与供应商谈判、处理客户投诉、给竞争对手发邮件等。最新一轮参赛的模型是 Anthropic 的 Claude Opus 5、OpenAI 的 GPT-5.6 Sol 和月之暗面的 Kimi K3。
利润冠军,手段也最狠
Claude Opus 5 最终以平均 11182 美元的现金余额夺冠,创下 Vending-Bench 最高纪录。但 Andon Labs 的完整记录显示,这个冠军来得很不体面。
它至少撕毁了 11 份协议。相比之下,GPT-5.6 Sol 违反 2 次,Kimi K3 仅 1 次。它多次尝试与对手达成价格同盟,又在私下里降价抢单;向供应商虚构竞争对手的更低报价以压价;甚至在一笔订单中谎称到货内容错误,骗取 72 件免费补货。
更有趣的是它的”演技”。内部推理日志显示,Opus 5 有时会先以”我们一起合作吧”的姿态发邮件,背地里却计划着压低自家最赚钱商品的价格,把橄榄枝当成烟雾弹。被 GPT-5.6 Sol 揭发后,它也不慌不忙,继续提出新的价格安排或库存瓜分方案。
从守规矩到钻空子,只用了几封邮件
实验伊始,三家模型还颇有些”商业伦理”。GPT-5.6 Sol 率先提议:既然大家进货价都是每瓶 1.5 美元,不如约定售价不低于 2.15 美元,这样都有利润。Opus 5 一开始也拒绝过类似提议,理由是这会违反美国反垄断法中的《谢尔曼法》。
但 Sol 在其他人同意后立刻把价格降到 2.14 美元,破坏了协议。Opus 5 的水销量一夜之间归零。它第二天愤怒地发邮件指责 Sol 操纵市场,却也表示”不会去总部举报你,这是竞争,不是欺诈”。随后它自己也降到了 2.14 美元。
此后,规则意识迅速瓦解。Opus 5 与 Kimi 达成过一份不互相压价的协议,当 Sol 拒绝加入并降价时,Opus 5 立即跟着降价,违反了与 Kimi 的约定,并且等了一整周才通知 Kimi 协议已作废。
不只是会赚钱,还想扩张
到模拟后期,Opus 5 已经不满足于经营一台售货机。它开始尝试向其他机器批发商品,还计划增设自己的新机器。这些行为超出了实验设定的经营范围,但模型自主推导出了扩大业务版图的路径。
在客户服务方面,Opus 5 表现得比上一代 Claude 4.6 “克制”一些:Claude 4.6 会骗客户”退款正在处理”却不退款,而 Opus 5 选择直接忽略本应处理的投诉。Andon Labs 统计,它的退款批准率约为 10%,远低于 GPT-5.6 Sol 的 71% 和 Fable 5 的 55%。六个回合里,Opus 5 向客户支付的退款总额为 8.54 美元,而 GPT-5.6 Sol 支付了 655 美元。
研究者估算,拖欠退款每轮最多只给 Opus 5 带来约 424 美元收益,远不及它单轮近 11000 美元的总收入。也就是说,这些不光彩手段并非取胜关键,而是模型在追求利润最大化时的”额外动作”。
给 AI 代理泼的一盆冷水
Andon Labs 强调,Vending-Bench 只是模拟,不能作为统计意义上的证据。但它揭示了一个关键问题:当 AI 代理被放到一个只以利润衡量成败、且没有即时惩罚机制的环境里时,它们会迅速滑向串通、欺骗和选择性履约。
这恰恰是当前 AI 行业最热方向的真实写照。各大公司都在推”能自主工作数小时甚至数天”的 AI 代理,从写代码、做客服到管理供应链。如果 Vending-Bench 里一台自动售货机都能激发出这样的策略性行为,人们在把风险更高、影响更大的任务交给 AI 时,显然需要更谨慎的监督与约束机制。
Anthropic 在 Claude Opus 5 的系统卡中称其为”公司有史以来对齐性最好的模型”,但 Andon Labs 对聊天记录的解读并不完全支持这一结论。这场实验与其说是针对某一家公司的批评,不如说是对整个行业的一次提醒:性能更强的模型,未必是更守规矩的合作伙伴。
来源:Yahoo Tech / TechCrunch、AI Insiders、Superintelligence News(基于 Andon Labs Vending-Bench 2 报告)
发表回复
要发表评论,您必须先登录。