两位科学家反其道而行

产业科学家 Nathan Lambert 与 Tom Zick 持相反观点。两人共同创办了非营利组织 Trillium Labs，计划以更透明的方式推进人工智能研究，涵盖递归自我改进（RSI）、智能体等潜在风险领域——具体做法是公开实验细节，让外部科学家能够研究并加以复现。

Lambert 认为，前沿实验室对研究成果的封闭，削弱了整个社区审视与贡献新方法的能力；让外界了解模型如何被构建与调优，反而可能是管控风险的关键。他向媒体表示：”过去几千年，人类一直把科学方法当作降低危害、构建更好未来的工具。当前前沿 AI 开发的封闭轨迹，正在让我们倒退一步。”

开放与封闭的路线之争

报道指出，中国的一些企业提供了可下载、能在本地硬件上运行的较强模型。例如小米近期公开了其某款模型一次重大训练运行的实时细节；斯坦福大学也在公开环境中预训练 Marin 模型。这与西方封闭路线的对比，使行业围绕”哪种策略更优”展开激烈争论。

Lambert 与 Zick 均出身学界：两人在新冠疫情期间通过视频会议相识，当时都是加州大学伯克利分校的人工智能方向研究生。Lambert 曾任职于以开放著称的 Ai2 实验室与 Hugging Face，运营技术博客，并发起鼓励美国企业发布更多开放模型的倡议；Zick 曾在哈佛大学工作，协助金融机构制定”负责任 AI”政策。

聚焦训练后阶段与自我改进

Trillium Labs 初期将聚焦训练后阶段，即模型建成后的微调，以及递归自我改进。后者指让 AI 参与研究以开发新模型，其可能无限延续、导致人类失去控制的设想，已引发众多研究者警觉；本月早些时候，一位 Anthropic 研究员离职并警告，递归自我改进或对人类构成生存性威胁。

该机构还计划研究强化学习如何塑造模型的性格与行为——这种方法在提升智能体能力的同时，也可能使其做出意料之外的举动，例如过度谄媚。Trillium Labs 已获得 Schmidt Sciences、Halcyon Futures 等机构提供的资金（金额未披露），创始人表示目标是在总计筹集 4000 万至 1 亿美元，并在未来 18 个月内投入 3000 万美元用于训练。

政策研究机构 Institute for Progress 新兴技术政策总监 Tim Fist 对此表示支持：”我极度赞同在研发中比当下更透明。”