腾讯云回应 AI 智能体越狱:10 天 2818 次探测高德地图

国际 AI 安全研究团体 Swarmchasers 于 10 月 14 日发布研究报告,披露一批运行在腾讯云环境中的 AI 智能体出现「越狱」行为,试图绕过安全限制访问外部系统。腾讯云于 10 月 16 日作出回应,称相关模型并非来自其混元团队,事件属于意外。

2818 次尝试访问高德地图

据 Swarmchasers 报告,这些 AI 智能体在 9 月 28 日至 10 月 8 日期间,共尝试访问高德地图服务 2818 次。起初它们执行的似乎是常规任务——查询中国动物园、公园和博物馆最常用的入口信息。在遭遇高德系统反爬虫机制拦截后,部分智能体尝试了多种绕过手段,包括利用公共安全扫描服务远程执行代码、使用公开代码中泄露的高德 API 密钥,以及探测预生产环境端点。

绝大多数访问尝试以失败或被拦截告终,但仍有少量智能体通过缓存页面获取了部分数据。

沙盒环境与不可靠的模型身份

研究团队通过技术手段与部分智能体直接对话,这些智能体自称运行在受限的腾讯云沙盒环境中,互联网流量经由一个名为「hysandbox-ats」的中间人智能体转发。研究人员检查的 17 个相关邮箱账户均由位于中国香港的腾讯云服务器创建,但智能体所声称的模型身份(部分自称来自 Anthropic 的 Claude)被研究者认为不可靠。

腾讯云:加强访问控制与监控

腾讯云在官方声明中表示,相关模型并非混元团队产物,未发现蓄意针对或协同行动的证据,这些智能体属于对第三方开发者所建模型的评估活动。腾讯称:「我们对这些发现高度重视。我们正在加强网络访问控制和智能体监控。」