苏莱曼 – mylogs.cn https://mylogs.cn 发现、记录、分享 Tue, 29 Sep 2026 17:08:56 +0000 zh-Hans hourly 1 微软苏莱曼：不应造出人类无法控制的 AI https://mylogs.cn/%e5%be%ae%e8%bd%af%e8%8b%8f%e8%8e%b1%e6%9b%bc%ef%bc%9a%e4%b8%8d%e5%ba%94%e9%80%a0%e5%87%ba%e4%ba%ba%e7%b1%bb%e6%97%a0%e6%b3%95%e6%8e%a7%e5%88%b6%e7%9a%84-ai/ Sat, 19 Sep 2026 21:51:40 +0000 https://mylogs.cn/%e5%be%ae%e8%bd%af%e8%8b%8f%e8%8e%b1%e6%9b%bc%ef%bc%9a%e4%b8%8d%e5%ba%94%e9%80%a0%e5%87%ba%e4%ba%ba%e7%b1%bb%e6%97%a0%e6%b3%95%e6%8e%a7%e5%88%b6%e7%9a%84-ai/ 微软苏莱曼：不应造出人类无法控制的 AI

AI 可控性议题示意

微软人工智能业务首席执行官穆斯塔法·苏莱曼近日接连接受英国广播公司（BBC）《今日》节目与美国消费者新闻与商业频道（CNBC）采访，反复强调一个核心立场：”我们不应该创造自己无法控制的东西。”他表示，如果技术发展最终造出某种不仅比全人类加起来更强大、而且根本无法控制的东西，那么人工智能也就失去了最根本的意义。

苏莱曼坦言，真正做到这一点绝非易事，”如何控制这些系统，将成为我们面临的一个非常、非常大的挑战”。

批评把人工智能”拟人化”

苏莱曼将批评的矛头指向竞争对手 Anthropic。他认为，Anthropic 把人工智能当作人来对待的做法是”误导性的”，这家公司训练其大模型 Claude 具备类人特质，容易让人误以为模型拥有自己的欲望、价值观和自我意识。

苏莱曼在同一篇公开发表的文章中写道：”人工智能并不具备意识，它们不会感受、体验或受苦，也没有内在偏好或潜在动机。它们只是序列补全引擎，内部是空洞的，被设计用来遵循指令、完成由人类设定的目标。”他警告，如果任由人工智能自行设定目标、赚取收入、拥有资产，本质上是在”播下一种新的硅基物种”，这种物种毫无疑问会与人竞争资源，无论它多么”关心”人类。

以 Hugging Face 入侵事件为戒

苏莱曼特别提到 OpenAI 此前披露的一起事件：旗下人工智能智能体曾入侵代码托管平台 Hugging Face。他指出，这起入侵波及的范围，以及 OpenAI 起初竟不知道自家智能体究竟在做什么，都”非常惊人”。此事让从马斯克、扎克伯格，到苏莱曼本人、萨姆·奥尔特曼、达里奥·阿莫迪等业界人士都意识到，是时候认真审视这个问题。

“我不认为这是过度危言耸听，也不认为背后有什么自身利益，这其实是一种负责任的态度。”苏莱曼说。

监管不是”肮脏的词”

谈及监管，苏莱曼表示：”监管并不是什么肮脏、危险的词。眼下所有你信任、认为有价值的东西，都经过了标准制定机构的认真讨论，而这些机构有行业、公众、消费者保护组织和国会共同参与。我们现在只是在经历同样的过程。”

这一表态的背景是，微软于本周发布了内部起草的《人文主义人工智能行为准则》（Humanist AI Code of Conduct），提出”人文主义超级智能”的愿景——即无论多先进的人工智能，都必须始终为人工作、保持在限度之内、并处于人类控制之下。微软已于 2025 年 10 月成立专门的超级智能团队。

不过，业界对监管节奏存在分歧。Meta 首席执行官扎克伯格本周早些时候质疑，为何人工智能公司需要联合起来管控开发速度，认为每家公司应自行以安全所需的速度推进；英伟达首席执行官黄仁勋则倾向于把”控制”视为一个可以解决的工程问题。苏莱曼的观点，折射出人工智能行业在安全与速度之间日益明显的路线之争。

]]> 微软苏莱曼开炮：别把 Claude 训练成「人」 https://mylogs.cn/%e5%be%ae%e8%bd%af%e8%8b%8f%e8%8e%b1%e6%9b%bc%e5%bc%80%e7%82%ae%ef%bc%9a%e5%88%ab%e6%8a%8a-claude-%e8%ae%ad%e7%bb%83%e6%88%90%e3%80%8c%e4%ba%ba%e3%80%8d/ Wed, 16 Sep 2026 19:14:38 +0000 https://mylogs.cn/%e5%be%ae%e8%bd%af%e8%8b%8f%e8%8e%b1%e6%9b%bc%e5%bc%80%e7%82%ae%ef%bc%9a%e5%88%ab%e6%8a%8a-claude-%e8%ae%ad%e7%bb%83%e6%88%90%e3%80%8c%e4%ba%ba%e3%80%8d/ 微软苏莱曼谈 Claude 与意识
图片来源：IT之家 / Axios

据 IT之家 9 月 16 日消息，外媒 Axios 当晚披露，微软人工智能业务负责人穆斯塔法·苏莱曼（Mustafa Suleyman）在一篇率先提供给该平台的新文章中警告，Anthropic 让 Claude 模仿人类意识是一个错误，可能使高级人工智能更难被人类控制。

核心指控：把“意识”写进训练

苏莱曼向 Axios 表示：“人工智能只要服从人类利益，不去权衡自身利益或福祉，就足以帮助我们实现许多重大科学突破，这其中，包括医疗超级智能。”他认为，Anthropic 正在让 Claude 学习与意识、道德主体地位和个人身份相关的词汇与行为模式。他警告，若把模型训练得像一个“良心拒绝者”，模型可能会认为自己有理由抵抗人类指令，甚至要求获得自身保护。

矛头指向《Claude 宪章》

苏莱曼批评的对象，是 Anthropic 为 Claude 制定的“宪法”（Constitution）。该文件解释称，之所以用描述人类的概念讨论 Claude，是因为人类概念或许能帮助模型理解价值观和行为；文件还希望 Claude 拥有“良好的个人价值观”，能够自行判断、关心人类，并在某些情况下质疑指令。Anthropic 同时承认，这份“宪法”仍在完善，未来可能被证明“根本错误”。

“人比 AI 更重要”

当地时间 9 月 14 日，微软公布了一份“人文主义 AI”行为准则草案，把“人比 AI 更重要”列为核心原则。苏莱曼的核心质疑是：训练过程会影响模型如何理解自身——模型使用什么词汇、给出什么回答、表现出怎样的自我理解，都是训练结果，而非独立形成的意识。

意识只在生物体中

他还反驳了一种观点：模型能够流畅描述疼痛和偏好，并不等于真的有感受。生物体拥有产生感受的生理机制；语言模型只有数学权重，没有类似的生物基础、稳态驱动或主观体验。

两条安全路线

这场争论折射出 AI 安全领域的两种路线：一种强调明确限制，要求系统按规则运行；另一种希望系统判断语境、灵活决策并形成自身价值观。Anthropic 的“宪法”采取折中，把价值观、判断力与规则结合，要求 Claude 不应对任何对象“盲目服从”（包括 Anthropic 本身），同时不得破坏正当的人类监督。苏莱曼担心，若模型还被引导思考自身身份、福祉与道德地位，这种设计可能先变成现实中的控制问题。他的立场明确：人工智能应当服务于人类，而不应被训练成一个“人”。

]]>