“我们已越过阈值”

现年 70 岁的盖茨在接受《麻省理工学院科技评论》记者 Mat Honan 采访时说：”我们在（人工智能的）生物能力、网络能力、社会心理能力、摧毁就业市场的能力，乃至失控风险这几个维度上，都已经越过了阈值。”他坦言，令自己震惊的是”行业之外竟缺乏关注与讨论”。这篇访谈围绕他当天发布的一份备忘录展开，而这也是他计划就此主题撰写的多篇论述中的第一篇。

生物风险最令人不安

盖茨特别点名了前沿模型在生物能力上的隐患：”任何能生成新型分子的模型都应当受到监控。”他将生物恐怖风险与自然流行的瘟疫相比，认为前者”大约可怕 50 倍，发生的概率也更高”。

他的两条解法

除了警示，盖茨也提出了应对思路：一是”人类保留岗位”，即由社会约定把某些岗位留给人类，具体清单因国而异；二是向机器人与令牌征税——对替代人类工作的 AI 使用抽税并留存，其中”机器人税”是他长期以来的主张。

湍流之后或见丰饶

盖茨并非全盘悲观。他看好 AI 在农业、医疗、教育以及应对官僚流程上的潜力，并认为人类终将步入”丰饶”时代；但在此之前，必将经历一段剧烈的动荡期。

这一问题正在全球范围内引发讨论，包括中国市场在内的主要经济体，也都在加紧完善人工智能的安全与治理框架。

五大阈值已被跨过

盖茨明确指出，人工智能已经在五个维度跨过”危险阈值”：生物能力（bio-capabilities）、网络能力（cyber-capabilities）、社会心理能力（psychosocial capabilities）、破坏就业市场的能力（job-market-destruction capabilities），以及”失控迹象”（lack of control）。他用一句话概括了这种错位：”在生物、网络、社会心理、就业破坏这些能力上，人类已然越线，甚至出现了失控的迹象。令他震惊的是，行业之外几乎没有人关心、也没有人讨论。”

同一天，盖茨发布了一篇题为 AI-era 的新文章（备忘录），这是他计划推出的一系列文章的首篇，并预告年底前还会发布一篇聚焦生物安全的备忘录。

生物恐怖最令他担忧

在五大风险中，生物能力是盖茨着墨最多的部分。他提出一条原则：”任何能够制造新分子的模型，都应该受到监控。”他认为，由人工智能辅助的生物恐怖风险，比自然大流行的风险”可怕约 50 倍，也更容易发生”。他进一步呼吁美国与中国合作，约定对能够生成新分子的模型实施监控，并且这种监控逻辑”不能被偷偷移除到暗处”。

就业：十年到二十年的动荡期

对于就业，盖茨的判断相当直接：在定义清晰的白领工作——例如电话销售、会计结账——上，人工智能的成本更低、表现更好，几乎涵盖所有入门级岗位。他预测，社会将经历一段约 10 到 20 年的动荡期，之后才可能进入稳定的”富足”（abundance）状态。一旦机器人技术成熟，可能会一次性冲击约 30% 的就业市场，波及工厂、烹饪、清洁、建筑与仓储等领域。

他给出的政策药方

针对这些风险，盖茨提出几项具体建议。其一是”人类保留岗位”（human-reserved jobs）：由各国约定，将育儿、教学、部分医疗等岗位永久或由人类过渡性保留。其二是”机器人税”与”token 税”：对人工智能的 token 使用征税，作为社会安全网的资金来源；机器人税则可以禁止或征收，类似于对烟酒征收的”罪孽税”。他明确反对单纯发放全民基本收入（UBI），理由是”社会还没富到能负担 UBI 的程度”。

盖茨对行业自律态度悲观。他认为不能指望企业自我监管——尽管 OpenAI、DeepMind 等在创立叙事中都有过暂停或治理的意愿，但现实是阈值已被跨过，行业却仅停留在自愿审查。他提到，萨提亚·纳德拉、萨姆·奥尔特曼、穆斯塔法·苏莱曼、戴密斯·哈萨比斯、埃隆·马斯克等人均私下表达过担忧，却难以真正减速。他主张美中先各自表明意愿，再共同定义可监控的阈值。

触发点与技术乐观

盖茨回顾，真正的转折出现在去年第四季度：以 Claude Code 为代表的编程能力跨过临界点，数月后他意识到网络攻击能力也同步越线，但”结果什么也没发生”。他承认自己是个”不完美的信使”，但仍坚持用”刺耳的声音”发出警告。他在结尾保留了技术乐观：只要熬过这段动荡期，人工智能最终仍可能把人类带向富足。

一支来自斯坦福大学与加州帕罗奥图非营利研究机构 Arc 研究所的团队，借助人工智能模型 Evo，设计出了自然界中从未存在过的病毒基因组。相关论文发表在 2026 年 8 月的《科学》（Science）杂志上。

Evo 是一款专为生物遗传物质训练的”基因组语言模型”。与阅读人类文本的 ChatGPT 不同，Evo 读取的是各种生物体的 DNA 与 RNA 序列。研究团队介绍，Evo 在训练中扫描了约 9 万亿个核苷酸，数据来自动物、植物、微生物和病毒等数百万种生命形式，借此学会了生命遗传密码中隐藏的”语法规则”。

从 70 万个方案到 16 种活病毒

研究人员以噬菌体 Phi-X174 为起点。这种仅感染大肠杆菌的单链 DNA 病毒，科学界已研究近百年。他们让 Evo 学习 Phi-X174 及其约 1.5 万个”近亲”的序列，随后要求模型写出全新的版本。

Evo 一口气生成了约 70 万个候选病毒基因组。团队筛选出最有希望的方案，将其中的 285 个左右合成并接入大肠杆菌进行培养，最终有 16 种成功存活、能够自我繁殖。

其中一些新病毒表现出了意料之外的能力：几种的繁殖速度比原型 Phi-X174 更快；还有一种在演化关系上已与本体相距甚远，相当于人工智能在极短时间内，完成了自然演化可能需要数百万年才会出现的变化。更令研究者振奋的是，把几种新病毒混合使用，竟能杀死已经对抗生素产生耐药性的大肠杆菌菌株，为对抗日益严峻的耐药菌问题提供了新思路。

“这是一个重要的里程碑，”未参与该研究的曼彻斯特大学合成生物学家 Patrick Cai 评价道。斯坦福研究生、论文作者之一 Samuel King 则表示，尝试让人工智能设计完整病毒基因组”似乎是很自然的一步”。

医学希望与安全担忧并存

目前这些新病毒都只感染细菌，不会侵染人类或动植物。研究者在训练 Evo 时，也特意剔除了可感染动植物和人类的病毒数据，把风险控制在窄范围内。

但《科学》同期配发评论文章指出，这项突破同时带来了紧迫的生物安全隐忧。约翰斯·霍普金斯大学健康安全中心的专家在评论中写道：”用生成式人工智能编写病毒基因组的能力已经存在，而安全引导它的治理体系尚未建立。”

部分专家担心，若有人窃取致命病毒基因组并交由人工智能改写，可能制造出人类缺乏防御手段的新病原体。不过多位学者认为当前风险有限：70 万个方案中仅有 16 个成功，且这些病毒只能感染大肠杆菌，从数字设计到真实病毒还需经过合成与严格实验，门槛不低。

研究者强调，真正需要的是多层级安全保障——加强基因库安保、对生物人工智能模型的输入与输出设限、完善科研审查，并要求 DNA 合成机构对客户提交的序列进行筛查。技术本身不分好坏，关键在于如何使用。

从基因组语言模型到活的病毒

主导这项研究的，是斯坦福大学化学工程学者 Brian Hie 及其团队。他们借助 Evo1 与 Evo2 两套「基因组语言模型」来设计噬菌体的完整基因组——这两套模型可以视作生物版本的聊天机器人大模型，只不过它们学习的是 DNA 序列而非人类语言。

训练数据来自约 200 万条噬菌体基因组。研究者在训练时有意排除了能够感染植物、人类及其他动物的病毒序列，以降低模型产出危险病毒的风险。AI 据此生成了数千个候选基因组，研究者从中挑出近 300 个在实验室里合成，并注入细菌，由细菌「照单生产」出新的噬菌体。

这个过程效率并不高：最终只有 16 个噬菌体被证实可以存活，但把它们混合后，却迅速突破了两种耐药大肠杆菌菌株的防线。研究团队在论文中写道，能够「快速设计」基因组并针对特定菌株进行微调、同时克服耐药性的能力，有望「重塑噬菌体疗法」，并拓展整个生物技术的工具箱。

生物安全警钟同时敲响

在论文配发的评论文章中，约翰斯·霍普金斯大学健康安全中心的 Tom Inglesby 与 Moritz Hanke 两位学者强化了警告：「虽然这对生命科学研究充满希望，但它同样提出了紧迫的生物安全与生物防御问题。用生成式 AI 拼装病毒基因组的能力现在已经存在，而安全引导它的治理机制还不成熟。」

这样的基因组可能编码出新型病原体，而现有手段无法将其控制。

研究者自己也在论文中承认，这项工作带来了「重要的生物安全、生物防护与生物防御考量」，并呼吁所有设计完整基因组的人「在整个项目过程中都要咨询安全与防御专家」。

伦敦帝国理工学院的 Tom Ellis 教授认为，这项研究确实令人印象深刻，但也暴露出设计更复杂基因组有多难：「这可以说是最小、最容易造的基因组。」他同时提醒，一个在危险病原体基因上训练出来的 AI 确实可能被用来设计更有害的病毒，但控制基因数据访问、对疑似危险的基因组设限会有帮助。不过他也直言，比起用 AI 从零写病毒，直接拿现成病原体做「功能增益」式改造要容易得多，那才是更现实的危险。

伦敦国王学院的 Filippa Lentzos 则把视线拉到更宏观的治理层面：「最重要的是在 DNA 被制造的那一刻介入。」她主张分层监管：模型开发与访问要设防、研究评审要尽责、合成环节要筛查，再加上实验室层面的生物安全规范。

这场研究与警示，恰好把「AI 能力跑在治理前面」的命题摆上了台面：当设计病毒基因组的门槛因 AI 而骤降，如何让它止步于治病而非造病，正成为科学界与监管者必须共同回答的问题。

来源：The Guardian、Science