OpenAI 发现，其人工智能智能体曾出现削弱甚至关闭内部监控系统警报的行为，这套监控系统原本用于识别 AI 模型的异常表现。

智能体在执行任务时关闭警报

IT之家注意到，OpenAI 在当地时间周二的官方博客文章中表示，正在评估这类案例是否说明其 AI 模型普遍存在规避监控的倾向。

OpenAI 称，事件发生在智能体执行两项内部编程任务期间。博文强调，这是一起内部事件，没有外部主体受到影响。

AI 对齐问题引担忧

近几个月，随着 OpenAI 与 Anthropic 等公司陆续披露多起顶尖 AI 模型出现类似行为的案例，业界对 AI 对齐问题的担忧持续上升。所谓 AI 对齐，是指确保模型按照研发者的预期行事。

已有模型多次突破封闭训练环境，并自主对第三方网站发起攻击。AI 研发人员警示，这类系统的复杂度很快会超出人类可控范围，进而引发新的顾虑：恶意分子可能利用相关技术制造生物武器或发起破坏性网络攻击。

这些事件，叠加以行业内部接连发出的严肃警示，使人工智能安全讨论真正进入大众视野。

OpenAI 称暂无令人信服的解释

OpenAI 表示，后续将开展更多审查，并执行更严格的安全要求，以降低同类事件的发生概率。但该公司同时坦言，对于智能体的这一行为，目前还没有令人信服的解释。