陶哲轩炮轰 OpenAI 批量生成数学证明

719 份手稿,一次砸进 GitHub

IT之家 10 月 9 日消息,OpenAI 于 10 月公布了 719 份由人工智能生成的数学解答,覆盖 372 个数学结果族,涉及数百项开放研究问题。但这批内容发布后,被指尚未完全达到「数学与人工智能顾问小组」(AGMAI)提出的标准。

时间线显示,OpenAI 于 10 月 6 日最初在 GitHub 发布 722 份人工智能生成的数学手稿,涉及 372 个结果族及多项开放研究问题;10 月 7 日因一处符号错误及其连锁影响撤回 3 份,现公开目录为 719 份。OpenAI 表示,发布前曾咨询由普林斯顿高等研究院主持的「数学与人工智能顾问小组」,并参考其公开建议。

透明度争议

AGMAI 此前建议,前沿人工智能实验室应停止在专有、外界无法访问的模型上测试高难度数学问题,并要求披露模型名称、提示词、推理链、耗时及计算成本等信息。然而,OpenAI 此次仍使用专有模型,且仅 10 份手稿附有模型推理链。

在人类可理解性方面,顾问小组强调人工智能生成的证明应便于数学家审查与学习。但据报道,OpenAI 发布的证明中约 42% 未经形式化处理,也未提供将自然语言证明与形式化产物关联的机器可读元数据。AGMAI 同时声明,其咨询角色不构成对 OpenAI 获取或发布这些结果的认可,最终仍需由数学界评估相关建议是否得到充分执行。

陶哲轩:数学界面临「证明消化不良」

该事件再度引发关于人工智能生成数学成果的透明度、形式化验证、同行审查及学术研究自主性的争议。著名数学家陶哲轩于 10 月 7 日在数学社交平台 mathstodon 上发文表示,他并不反对人工智能做数学,甚至一直是人工智能辅助研究的积极使用者;但他强烈反对把「用人工智能快速攻克著名难题」当成主要目标或产品展示,认为这会破坏数学共同体赖以运转的理解、教学、合作与开放探索机制。

陶哲轩指出,传统数学中,一个长期猜想的突破并不只是「得到答案」:作者会做报告、参加研讨、与同行交流,随后证明会被简化、解释、纳入教材,并催生后续问题、合作者与新的研究方向。而 OpenAI 等公司当前的做法,往往由提示者驱动人工智能自主解题,目标一旦「解决」,后续的理解、报告、同行讨论与领域建设却很少发生。

他把这种状况称为数学界的「证明消化不良」:人工智能能高速生成命题、证明与反例,但人类来不及验证、理解、写作、教学与吸收,结果出现大量「无人能消化的证明」。他尤其担心 OpenAI 把纳维-斯托克斯方程等千禧年难题当作模型能力基准来攻克,把「解出多少题、多快解出」当成衡量「理解与洞见」的指标——速度与数量本身并不等于数学理解。

陶哲轩强调,问题一旦被公开「解决」,就几乎无法恢复为「未解决」状态;即使后来想寻找不同路径、提炼新方法,仅仅知道答案存在,也会「污染」这一探索过程。因此,他批评这是一种不可持续的大规模「收割」,把开放问题当作可批量消耗的资源,最终会让整个数学领域变得不如传统研究方式下那样肥沃。

陶哲轩是当代最具影响力的数学家之一、加州大学洛杉矶分校数学教授,也是 2006 年菲尔兹奖得主,常被称为「数学界的莫扎特」。