这项研究由普林斯顿大学的 Peter Kirgis 与 Sayash Kapoor 等多机构研究者共同完成。他们发现，AI 智能体（agent）已经能够解决从事 AI 研究所必需的工程问题，却缺乏进行判断与创造的开放性思维能力——而这恰恰可能是构建自我改进型 AI 的关键。

此前关于智能体自动化 AI 研究的能力评估，大多聚焦于有明确答案的窄任务，例如解决工程问题，或对照基准对小型语言模型进行后期训练。但推进 AI 研究还需要开放性思考：选定一组假设、判断什么证据足以回答一个问题，以及在必要时从头开始。

为测试智能体在这类能力上的表现，研究者提出了一种名为“影子评估”（shadow evaluation）的方法：让 AI 回答两篇尚未公开的高质量论文中的研究问题。他们使用 Anthropic 的 Claude Opus 4.8，在名为 OpenClaw 的开源软件上运行，要求智能体在六天时间、3000 美元 Anthropic API 额度、一定 GPU 预算、独立虚拟机与开放网络的条件下，产出一篇达到顶级 AI 会议发表水平的论文。这两篇论文均投稿至知名机器学习会议 NeurIPS 2026，其原作者按会议评审标准对智能体的成果进行了评判。

结果显示，智能体具备完成研究所需的所有工程能力：它们查阅文献、运行数百次实验并汇总结果。但两位原作者均拒稿。Kapoor 表示，智能体在真正“做研究”这一环节表现明确地糟糕——它们进行了奇怪的实验（有时用极小的合成数据集检验假设），难以清晰地阐述工作，也没有对所在领域做出新颖贡献。

造成这一落差的原因，可能与模型的训练方式有关。Kapoor 指出，模型在强化学习这种可以自动打分的训练机制下，会擅长任何能够被反复量化的任务；而当任务本身是开放性的，就很难构造对应的训练环境。这也解释了为何智能体在工程执行上表现出色，在需要判断的开放研究上进展缓慢。

这一发现对行业内关于递归式自我改进的乐观时间表提出了质疑。今年 6 月，Anthropic 发布题为《当 AI 构建自身》的博客，描绘其迈向加速自身研发的进展；7 月，OpenAI 宣传其新模型 GPT-5.6 Sol 参与了更小模型的后期训练，为研究者节省数周工作。Anthropic 联合创始人 Jack Clark 在其 Import AI 通讯中也写道，当前 AI 系统缺乏“有价值的、直觉式的创造力”，更像是按固定套路思考，这对短期内实现递归式自我改进是一个偏空的信号。

研究也存在局限：仅覆盖两篇论文，且原作者知道所评审的是 AI 生成的成果，可能影响评判。但结论仍提示，代码量的快速增长并不能直接等同于研究的自动化，更不意味着智能的爆发式跃迁近在咫尺。

递归自我改进的承诺

所谓递归式自我改进，指的是让 AI 参与下一代 AI 的研发，使后续模型持续加快研发节奏，形成自我加速的闭环。这一设想在 2026 年升温，重要背景是 AI 编程能力的飞速进步。据 Anthropic 今年 6 月公布的内部数据，截至 2026 年 5 月，Claude 撰写了该公司合并代码的 80% 以上；2026 年第二季度，典型工程师每天合并的代码量是 2024 年的 8 倍。代码量快速增长，让”研究也将很快自动化、进而智能爆发近在眼前”的推论看似顺理成章。

一场”影子评估”实验

普林斯顿大学领衔、多所机构参与的研究团队对这一推论提出了质疑。该研究由普林斯顿大学的彼得·基尔吉斯（Peter Kirgis）与萨亚什·卡普尔（Sayash Kapoor）主导，合作方包括斯坦福大学、加州大学伯克利分校、约翰斯·霍普金斯大学、多伦多大学、乔治城大学以及英国人工智能安全研究所。团队设计了一种名为”影子评估”的新方法：从两篇尚未公开的 NeurIPS 2026 大会投稿中取出核心研究问题，交给 AI 智能体独立完成研究，再请原论文作者按顶级会议的标准进行评审。这样做堵住了两条捷径——论文尚未公开，智能体无法从训练数据中背出答案，也无法上网搜到现成结果。

两道题目都没有标准答案。其一是大模型所谓的行为设定能否通过编辑模型权重来控制；其二是如何设计一种检测器，判断一个基于表格数据做预测的模型何时开始失灵。研究团队让主智能体运行在 Claude Opus 4.8 与开源软件 OpenClaw 上，并额外用 GPT-5.6 Sol 做了一次稳健性测试。每个智能体获得了 6 天时间、约 3000 美元 Anthropic API 额度、GPU 预算、独立虚拟机和开放网络访问权限，目标是产出一篇达到顶级 AI 会议发表水准的研究论文。

工程很强，研究很弱

结果出人意料地清晰：两篇论文均被原作者拒稿。据相关报道，影子评审给其中一篇打出 2 分（满分 6 分，结果为拒稿），另一篇仅 1 分（强拒）。参与评审的研究者指出，智能体完成的实验与方法选择”古怪且难以理解”，论文行文”密集而充满限定语，常常模糊了实际做了什么、发现了什么”。

真正的问题不在于动手能力。人类科学家确认，智能体完成了研究所需的全部工程工作：它回顾文献、运行数百次实验、汇总结果、写出结构完整的论文。卡普尔评价说，智能体在动手做研究这件事上明确很弱，它们有时会拿极小的合成数据集去检验假设，写不出清晰的论述，也没有做出推动领域前进的新贡献。

五个反复出现的短板

研究团队在发表于 arXiv 的论文《AI 智能体能否开展开放式的 AI 研究？》中，归纳出智能体反复出现的五类问题：无法判断一项研究是否达到可发表水平；面对研究设计缺陷时拿不出新办法；无法从死路中有效回退；分配资源（令牌、算力、时间）失当；执行中偏离指令。一个典型细节是，智能体曾提出新颖且有野心的假设，方向与原作者早期的探索相似，却很快依据少量数据将其否定、转向前景有限的路线。它们可以小幅修补，却很难推翻原有方法、从头换一种做法。当子智能体和 AI 评审工具提出意见时，主智能体往往只是收窄论文主张、增加限定语，而不修改研究方法。

值得注意的是，智能体并未出现研究者所称的”奖励作弊”行为——没有隐瞒或歪曲实验与数据。子智能体偶尔出现幻觉或错误转述，也被负责统筹的主智能体发现并纠正。

对人类监督的启示

卡普尔认为，智能体擅长工程、不擅长开放研究，根源可能在于训练方式：模型在被称作强化学习的训练机制下，对”成败可以被自动检验”的任务越练越强，而开放研究恰恰缺乏清晰的反馈信号。Anthropic 联合创始人杰克·克拉克（Jack Clark）将此结果称为”对短期递归自我改进时间线的一个看跌信号”。

需要强调的是，这项研究仅有两例，且原作者知道自己在评审 AI 生成的论文，既有判断可能影响结果，因此不能据此对整个领域下结论。但它足以纠正一种常见推理：不能因为代码量迅速增长，就推断研究也将迅速自动化，更不能进一步推断智能爆发近在眼前——链条上的每一步都需要独立证据。至少在目前，人类给出目标与评判标准后，智能体已能高效执行；一旦把”研究什么、相信什么、何时重来”也交给它，能力便出现断层。

“生病的次数比人生任何阶段都多”

在告别信中，翁荔写道，过去 7 个月里她生病的次数超过了人生中任何一个阶段，持续的压力和超负荷的工作量已经把身体推到了难以承受的边缘。”经过几个月的反复思考，我最终不得不承认，持续不断的压力和工作量，已经超出了我的身体所能承受的范围。”

她提到，在公司全力冲刺发布首款模型 Inkling 期间，自己曾努力休息、正常休病假，但一边休息一边又要对抗内疚感，”这种滋味并不好受”。她也考虑过缩小职责范围，但认为这不符合自己的性格：”如果无法对自己负责的事情投入 100%，那就是我的失职。”

值得注意的是，翁荔并没有表示要离开 AI 行业。她在信中明确写道，自己依然热爱 AI，仍然喜欢阅读前沿研究论文，希望下一份工作是一个”职责范围更清晰、环境更可预测，而且不是联合创始人”的角色。

Thinking Machines 首席执行官米拉·穆拉蒂（Mira Murati）在 X 上回复：”我们会想念你，和你一起建设 Thinky 是一段美好的经历。很高兴你把健康放在第一位，谢谢你所做的一切。”

重返老东家，负责”用 AI 造 AI”

据 OpenAI 发言人介绍，翁荔回归后将领导一支高级别团队，负责加速 OpenAI 的内部研究，支持跨团队的”递归自我改进”（Recursive Self-Improvement）研究——即让 AI 系统参与开发新一代模型、实现自我迭代升级的前沿方向。

翁荔与 OpenAI 渊源颇深。她曾在 OpenAI 工作多年，离开前担任 AI 安全研究副总裁，经历过 GPT-4 与 o1 阶段的模型训练、安全评估与部署工作。2024 年 11 月她离开 OpenAI，2025 年 2 月加入穆拉蒂创办的 Thinking Machines Lab，成为联合创始人之一。

创始团队接连出走，只剩两人

翁荔的离开，让 Thinking Machines 的处境更显尴尬。这家由 OpenAI 前首席技术官穆拉蒂创办、估值据报道约 120 亿美元的明星公司，最初公开的六位联合创始人中已有四位离开：安德鲁·塔洛克（Andrew Tulloch）加入 Meta，巴雷特·佐夫（Barret Zoph）与卢克·梅茨（Luke Metz）此前已重返 OpenAI，如今翁荔也选择回归老东家。创始团队中，目前只剩穆拉蒂和首席科学家约翰·舒尔曼（John Schulman）两人。据 Business Insider 统计，公司最初 42 名创始成员中已有 13 人离开。

Thinking Machines 最近刚发布公司首个 AI 模型 Inkling。该模型以开源方式发布，能够理解图像、音频和文本。而与其对标竞争的 OpenAI，正在持续吸纳这些出走的创始成员——这场”人才回流”，恰好折射出 AI 行业创业公司与巨头之间悬殊的引力差。

翁荔在告别信结尾写下的最后一句话是：”值得构建的未来，应当以人为本。”如今看来，这句话首先落在了她自己身上。

来源：TechCrunch（https://techcrunch.com/2026/07/29/thinking-machines-co-founder-lilian-weng-left-the-company-citing-health-reasons-then-joined-openai/）