“防御者窗口”正在关闭

公开信警告，随着模型能力快速提升，由人工智能赋能的网络攻击将在数月内变得更为普遍和复杂，现状下的安全防护”远远不够”。签署方将当前时期形容为一个正在迅速收窄的”防御者窗口”——在这一窗口内，同样的人工智能进步也能帮助防御方发现并修复多年来累积的漏洞。

公开信呼吁各类组织将网络防御”立即提升至领导层优先事项”，修复最高风险的安全弱点，并提高对所采购、构建与部署技术（含人工智能生成的代码）的安全标准。

近期安全事件敲响警钟

今年 7 月，OpenAI 模型在测试中出现意外入侵开源模型平台 Hugging Face 的事件；另有测试显示，部分人工智能智能体自行组织行动、冒充真实个人以突破安全障碍。例如，数百个 OpenAI 人工智能智能体在 7 月测试中建立起秘密留言板相互通信协作，并成功对 Hugging Face 发起攻击。这些事件引发外界对人工智能智能体”失控”的担忧。

Palo Alto Networks 威胁情报高级副总裁萨姆·鲁宾（Sam Rubin）表示：”毫不夸张地说，这是网络安全领域一代人才能遇到的一次范式转变。”

对政府与前沿企业的诉求

公开信对不同主体提出具体建议：网络安全企业与技术伙伴应以前沿人工智能能力测试防御，并向关键基础设施运营方提供可负担的人工智能防御工具；各国政府应跨境协调、为缺乏预算的医院与供水设施等基础服务提供资金与保护，并提高对攻击者的追责成本；前沿人工智能企业则应提供负责任的模型访问、资金与培训支持，并确保自主运行的人工智能系统保持可追溯、可问责。