五大阈值已被跨过

盖茨明确指出，人工智能已经在五个维度跨过”危险阈值”：生物能力（bio-capabilities）、网络能力（cyber-capabilities）、社会心理能力（psychosocial capabilities）、破坏就业市场的能力（job-market-destruction capabilities），以及”失控迹象”（lack of control）。他用一句话概括了这种错位：”在生物、网络、社会心理、就业破坏这些能力上，人类已然越线，甚至出现了失控的迹象。令他震惊的是，行业之外几乎没有人关心、也没有人讨论。”

同一天，盖茨发布了一篇题为 AI-era 的新文章（备忘录），这是他计划推出的一系列文章的首篇，并预告年底前还会发布一篇聚焦生物安全的备忘录。

生物恐怖最令他担忧

在五大风险中，生物能力是盖茨着墨最多的部分。他提出一条原则：”任何能够制造新分子的模型，都应该受到监控。”他认为，由人工智能辅助的生物恐怖风险，比自然大流行的风险”可怕约 50 倍，也更容易发生”。他进一步呼吁美国与中国合作，约定对能够生成新分子的模型实施监控，并且这种监控逻辑”不能被偷偷移除到暗处”。

就业：十年到二十年的动荡期

对于就业，盖茨的判断相当直接：在定义清晰的白领工作——例如电话销售、会计结账——上，人工智能的成本更低、表现更好，几乎涵盖所有入门级岗位。他预测，社会将经历一段约 10 到 20 年的动荡期，之后才可能进入稳定的”富足”（abundance）状态。一旦机器人技术成熟，可能会一次性冲击约 30% 的就业市场，波及工厂、烹饪、清洁、建筑与仓储等领域。

他给出的政策药方

针对这些风险，盖茨提出几项具体建议。其一是”人类保留岗位”（human-reserved jobs）：由各国约定，将育儿、教学、部分医疗等岗位永久或由人类过渡性保留。其二是”机器人税”与”token 税”：对人工智能的 token 使用征税，作为社会安全网的资金来源；机器人税则可以禁止或征收，类似于对烟酒征收的”罪孽税”。他明确反对单纯发放全民基本收入（UBI），理由是”社会还没富到能负担 UBI 的程度”。

盖茨对行业自律态度悲观。他认为不能指望企业自我监管——尽管 OpenAI、DeepMind 等在创立叙事中都有过暂停或治理的意愿，但现实是阈值已被跨过，行业却仅停留在自愿审查。他提到，萨提亚·纳德拉、萨姆·奥尔特曼、穆斯塔法·苏莱曼、戴密斯·哈萨比斯、埃隆·马斯克等人均私下表达过担忧，却难以真正减速。他主张美中先各自表明意愿，再共同定义可监控的阈值。

触发点与技术乐观

盖茨回顾，真正的转折出现在去年第四季度：以 Claude Code 为代表的编程能力跨过临界点，数月后他意识到网络攻击能力也同步越线，但”结果什么也没发生”。他承认自己是个”不完美的信使”，但仍坚持用”刺耳的声音”发出警告。他在结尾保留了技术乐观：只要熬过这段动荡期，人工智能最终仍可能把人类带向富足。