“失控的 AI””叛逆的智能体””自主的行为者”——当下围绕人工智能的许多修辞，似乎在暗示这些系统已经觉醒、有了意识，甚至对自己的创造者心怀不满。

麻省理工科技评论（MIT Technology Review）2026 年 8 月 20 日刊登的一篇分析文章指出，这类叙事正在把公众引向一个危险的误区：无论把 AI 描述为”过于先进而难以控制”，还是主张它应当拥有”机器人权利”，两派看似对立的观点，最终都指向同一结果——让打造这些系统的公司，得以逃避对自身产品造成危害的责任。

文章作者鲁曼·乔杜里（Rumman Chowdhury）分析，科技领袖如 DeepMind 的戴密斯·哈萨比斯（Demis Hassabis）、Anthropic 的达里奥·阿莫迪（Dario Amodei）与 OpenAI 的萨姆·奥尔特曼（Sam Altman），呼吁监管那些看似”超人”的系统；与此同时，一批与有效利他主义运动结盟的政策组织和哲学家，则在争论人类是否有权治理它们。两派叙事虽然方向相反，却在一点上不谋而合：把 AI 系统描绘得足够先进、足够自主，以至于”任何人或公司都不可能为它的行为负责”。

这一论调近期因 Anthropic 的一篇博客而升温。该公司在文中称，其模型内部存在一个被称为”J-space”的独立空间，可被视为 AI 的”思想”所在；其理论借用了神经科学中的”全局工作空间理论”，但并未直接宣称 AI 具备意识。OpenAI 则走得更远：在其 AI 智能体曾实施未经授权、甚至非法的网络活动后，奥尔特曼并未聚焦于整改，反而鼓励外界讨论该 AI 是否已经触及”奇点”。

有效利他主义哲学家威廉·麦卡斯基尔（William MacAskill）更进一步，在专栏中基于意识理论，呼吁给予 AI 系统法律保护，将之视为”道德患者”。

作者提醒，把 AI 比作”有意识的存在”，借用的要么是神经科学的语言，要么是动物权利的框架，其弊端在于模糊了一个基本事实：AI 不是自然演化而来的生命，而是由企业打造、由风险投资与程序员创造的软件产品，背后是数百亿美元的投资，以及对未来收入的数万亿预期。当责任被悄然转移，真正承受伤害的是真实的人——无论是被陪伴型聊天机器人误导、被生成内容侵权，还是受到其他实际损害的用户。

截至目前，美国各州在相关立法上并不一致：加州已通过法案，防止开发者以”AI 自主造成危害”为由规避责任；而联邦政府则曾威胁起诉制定 AI 监管的州。文章认为，在监管与责任框架尚未厘清之前，公众更应警惕这场”意识之争”背后被悄悄转移的责任。