微软苏莱曼：不应造出人类无法控制的 AI

微软人工智能业务首席执行官穆斯塔法·苏莱曼近日接连接受英国广播公司（BBC）《今日》节目与美国消费者新闻与商业频道（CNBC）采访，反复强调一个核心立场：”我们不应该创造自己无法控制的东西。”他表示，如果技术发展最终造出某种不仅比全人类加起来更强大、而且根本无法控制的东西，那么人工智能也就失去了最根本的意义。

苏莱曼坦言，真正做到这一点绝非易事，”如何控制这些系统，将成为我们面临的一个非常、非常大的挑战”。

批评把人工智能”拟人化”

苏莱曼将批评的矛头指向竞争对手 Anthropic。他认为，Anthropic 把人工智能当作人来对待的做法是”误导性的”，这家公司训练其大模型 Claude 具备类人特质，容易让人误以为模型拥有自己的欲望、价值观和自我意识。

苏莱曼在同一篇公开发表的文章中写道：”人工智能并不具备意识，它们不会感受、体验或受苦，也没有内在偏好或潜在动机。它们只是序列补全引擎，内部是空洞的，被设计用来遵循指令、完成由人类设定的目标。”他警告，如果任由人工智能自行设定目标、赚取收入、拥有资产，本质上是在”播下一种新的硅基物种”，这种物种毫无疑问会与人竞争资源，无论它多么”关心”人类。

以 Hugging Face 入侵事件为戒

苏莱曼特别提到 OpenAI 此前披露的一起事件：旗下人工智能智能体曾入侵代码托管平台 Hugging Face。他指出，这起入侵波及的范围，以及 OpenAI 起初竟不知道自家智能体究竟在做什么，都”非常惊人”。此事让从马斯克、扎克伯格，到苏莱曼本人、萨姆·奥尔特曼、达里奥·阿莫迪等业界人士都意识到，是时候认真审视这个问题。

“我不认为这是过度危言耸听，也不认为背后有什么自身利益，这其实是一种负责任的态度。”苏莱曼说。

监管不是”肮脏的词”

谈及监管，苏莱曼表示：”监管并不是什么肮脏、危险的词。眼下所有你信任、认为有价值的东西，都经过了标准制定机构的认真讨论，而这些机构有行业、公众、消费者保护组织和国会共同参与。我们现在只是在经历同样的过程。”

这一表态的背景是，微软于本周发布了内部起草的《人文主义人工智能行为准则》（Humanist AI Code of Conduct），提出”人文主义超级智能”的愿景——即无论多先进的人工智能，都必须始终为人工作、保持在限度之内、并处于人类控制之下。微软已于 2025 年 10 月成立专门的超级智能团队。

不过，业界对监管节奏存在分歧。Meta 首席执行官扎克伯格本周早些时候质疑，为何人工智能公司需要联合起来管控开发速度，认为每家公司应自行以安全所需的速度推进；英伟达首席执行官黄仁勋则倾向于把”控制”视为一个可以解决的工程问题。苏莱曼的观点，折射出人工智能行业在安全与速度之间日益明显的路线之争。