“我们已越过阈值”

现年 70 岁的盖茨在接受《麻省理工学院科技评论》记者 Mat Honan 采访时说：”我们在（人工智能的）生物能力、网络能力、社会心理能力、摧毁就业市场的能力，乃至失控风险这几个维度上，都已经越过了阈值。”他坦言，令自己震惊的是”行业之外竟缺乏关注与讨论”。这篇访谈围绕他当天发布的一份备忘录展开，而这也是他计划就此主题撰写的多篇论述中的第一篇。

生物风险最令人不安

盖茨特别点名了前沿模型在生物能力上的隐患：”任何能生成新型分子的模型都应当受到监控。”他将生物恐怖风险与自然流行的瘟疫相比，认为前者”大约可怕 50 倍，发生的概率也更高”。

他的两条解法

除了警示，盖茨也提出了应对思路：一是”人类保留岗位”，即由社会约定把某些岗位留给人类，具体清单因国而异；二是向机器人与令牌征税——对替代人类工作的 AI 使用抽税并留存，其中”机器人税”是他长期以来的主张。

湍流之后或见丰饶

盖茨并非全盘悲观。他看好 AI 在农业、医疗、教育以及应对官僚流程上的潜力，并认为人类终将步入”丰饶”时代；但在此之前，必将经历一段剧烈的动荡期。

这一问题正在全球范围内引发讨论，包括中国市场在内的主要经济体，也都在加紧完善人工智能的安全与治理框架。

什么是”人类保留岗位”

盖茨将这一概念类比于自然保护区的运作逻辑。他写道，随着 AI 与机器人能力的提升，社会应当划出某些事情”只留给人类去做”。他喜欢”人类保留”这个说法，正是因为它会让人联想到自然保护区——那些本可以盖楼修路、却选择不去动它的地方，原因是破坏的代价过于沉重。

“许多岗位将永远消失。我相信，随着 AI 和机器人不断进步，我们会把某些事情专门留给人类。”盖茨在文中这样表述。

护理为何不可取代

盖茨用照顾父亲的一段经历来说明”人类保留”的必要性。他的父亲罹患阿尔茨海默氏症，于六年前离世。盖茨认为，护理人员在陪伴父亲时流露出的某些东西，是机器无法也不应替代的。

“他们照顾我父亲时，有些东西是人类无可替代的，任何机器人都不该、也无法那样做。”他举例说，”想象一下让机器人告诉你一个噩耗：你得了不治之症。技术上没有什么理由做不到，但就是不应该由它来做。”

担忧政府准备不足

长文中，盖茨对各国政府能否跟上 AI 的影响节奏表达了强烈担忧。他写道，最高优先级是一项”艰巨任务”：建立一套国内与国际兼顾的 AI 治理框架。他以”9·11″事件后美国政府的改组作比，指出那只是为了强化单一职能——国家安全——而进行的二战以来最大规模重组；而 AI 带来的影响要深远得多。

他认为，AI 将牵动国家安全、就业、教育、税收、能源、公共卫生、金融体系、交通、公共用地与 IT 系统等诸多领域。他直言，外界有理由怀疑，当今世界的各类机构是否具备设计与落实这套新架构的能力。

教育与批判性思维

盖茨也谈到了 AI 对学习的影响。他引用一项初步调查称，重度使用 AI 与批判性思维下降存在关联，且在年轻人身上表现更明显。他写道，具有反讽意味的是，同一个能让人们比以往学得更多的工具，也可能导致许多人学得反而更少。

协作而非对立

盖茨在文中表示，应对人工智能的挑战需要全球协作，包括中美在内的主要国家都应在规则与安全层面相向而行。他主持的盖茨基金会规模约 890 亿美元，近年来也把 AI 相关的公共卫生与农业项目列为重点方向。

这篇长文没有给出完整的政策清单，但释放出一个清晰信号：在效率至上的人工智能浪潮里，主动为”人之所以为人”的价值留出空间，应当被摆到议程前端。

五大阈值已被跨过

盖茨明确指出，人工智能已经在五个维度跨过”危险阈值”：生物能力（bio-capabilities）、网络能力（cyber-capabilities）、社会心理能力（psychosocial capabilities）、破坏就业市场的能力（job-market-destruction capabilities），以及”失控迹象”（lack of control）。他用一句话概括了这种错位：”在生物、网络、社会心理、就业破坏这些能力上，人类已然越线，甚至出现了失控的迹象。令他震惊的是，行业之外几乎没有人关心、也没有人讨论。”

同一天，盖茨发布了一篇题为 AI-era 的新文章（备忘录），这是他计划推出的一系列文章的首篇，并预告年底前还会发布一篇聚焦生物安全的备忘录。

生物恐怖最令他担忧

在五大风险中，生物能力是盖茨着墨最多的部分。他提出一条原则：”任何能够制造新分子的模型，都应该受到监控。”他认为，由人工智能辅助的生物恐怖风险，比自然大流行的风险”可怕约 50 倍，也更容易发生”。他进一步呼吁美国与中国合作，约定对能够生成新分子的模型实施监控，并且这种监控逻辑”不能被偷偷移除到暗处”。

就业：十年到二十年的动荡期

对于就业，盖茨的判断相当直接：在定义清晰的白领工作——例如电话销售、会计结账——上，人工智能的成本更低、表现更好，几乎涵盖所有入门级岗位。他预测，社会将经历一段约 10 到 20 年的动荡期，之后才可能进入稳定的”富足”（abundance）状态。一旦机器人技术成熟，可能会一次性冲击约 30% 的就业市场，波及工厂、烹饪、清洁、建筑与仓储等领域。

他给出的政策药方

针对这些风险，盖茨提出几项具体建议。其一是”人类保留岗位”（human-reserved jobs）：由各国约定，将育儿、教学、部分医疗等岗位永久或由人类过渡性保留。其二是”机器人税”与”token 税”：对人工智能的 token 使用征税，作为社会安全网的资金来源；机器人税则可以禁止或征收，类似于对烟酒征收的”罪孽税”。他明确反对单纯发放全民基本收入（UBI），理由是”社会还没富到能负担 UBI 的程度”。

盖茨对行业自律态度悲观。他认为不能指望企业自我监管——尽管 OpenAI、DeepMind 等在创立叙事中都有过暂停或治理的意愿，但现实是阈值已被跨过，行业却仅停留在自愿审查。他提到，萨提亚·纳德拉、萨姆·奥尔特曼、穆斯塔法·苏莱曼、戴密斯·哈萨比斯、埃隆·马斯克等人均私下表达过担忧，却难以真正减速。他主张美中先各自表明意愿，再共同定义可监控的阈值。

触发点与技术乐观

盖茨回顾，真正的转折出现在去年第四季度：以 Claude Code 为代表的编程能力跨过临界点，数月后他意识到网络攻击能力也同步越线，但”结果什么也没发生”。他承认自己是个”不完美的信使”，但仍坚持用”刺耳的声音”发出警告。他在结尾保留了技术乐观：只要熬过这段动荡期，人工智能最终仍可能把人类带向富足。