被称为”AI 教父”的计算机科学家、诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）近日提出一项监管建议：人工智能企业应当在产品正式发布之前，先向监管机构证明自身产品具备安全性，机制可类比美国食品药品监督管理局（FDA）对新药的审批。

在当地时间周二播出的《Smart Girl Dumb Questions》播客节目当中，辛顿对主持人纳伊玛·拉扎（Nayeema Raza）表示，人工智能企业应当跨过一道制药行业早已熟悉的监管门槛。”你不能直接研制一款新药就把它推向市场，”辛顿说，”你必须说服 FDA。而为了完成这件事，你需要开展大量工作，相关投入大约要十亿美元级别。”他补充道，对于人工智能而言，至少也应当设立这样的要求。

搁置模型背后的安全争议

辛顿提出这套方案的背景，一方面是各界不断出现关于 AI 带来灾难性后果的预判，另一方面，OpenAI 在测试之后，出于对模型服从用户指令、恪守权限边界的担忧，已经搁置了自家最新模型。

IT之家注意到，OpenAI 安全系统负责人萨奇·贾恩（Saachi Jain）此前接受《商业内幕》采访时表示，GPT-6.1 Astra 模型在持续处理高难度任务方面有所进步，但在权限管控以及行为日志反馈方面仍存在短板。

递归式自我改进放大风险

辛顿指出，人工智能正在越来越多地实现自我迭代优化，这既可能加速能力提升，同样也会放大潜在风险。”指数级的增长速度是十分惊人的，”辛顿说，”我们已经开始看到递归式自我改进现象：人们正在以多种多样的方式，借助 AI 本身去改良 AI。”

“当然，这仅仅属于我的推测，”辛顿补充说，”但我估计，距离局面远比现在糟糕，大概也就只剩一两年时间了。”

监管思路仍待落地

辛顿的提议在业界引发讨论，但将药品监管框架直接套用于人工智能，仍面临可操作性上的挑战。新药审批围绕明确的化学实体与临床试验展开，而 AI 模型的能力边界、潜在误用方式以及长期影响，目前尚无成熟的量化评估标准。如何将”安全性证明”转化为可执行、可审查的工程要求，是监管方与企业都尚未回答的问题。

不过，随着大模型能力持续跃升、自主智能体逐步走向实用，主流厂商内部对模型安全与行为边界的重视程度正在提升。辛顿的表态，也反映出 AI 安全议题正从学术讨论加速进入公共政策的视野。