微软把 AI 智能体当“内鬼”防范

微软于当地时间 10 月 19 日推出多项全新安全功能，旨在帮助企业应对日益严峻的 AI 智能体安全威胁。此次更新的核心思路，是将企业内部部署、付费使用的 AI 智能体视作“内鬼”般的内部威胁加以持续监控，而非默认信任的助手。

最受关注的是“守护智能体”（Guardian Agents），它隶属于微软今年 6 月推出的“感知项目”（Project Perception）。感知项目最初是为应对 Anthropic 的 Mythos、Fable 等黑客模型，以及 OpenAI 的安全漏洞扫描系统“破晓”（Daybreak）而设计，上线时包含三类智能体：扮演攻击方的红队智能体、负责侦测与评估漏洞的蓝队智能体，以及专门修复漏洞的绿队智能体。

纳德拉：别再信任模型供应商

微软首席执行官萨提亚·纳德拉（Satya Nadella）本月早些时候在个人博客中发出警示：企业是时候不再信任 AI 模型供应商了，即便厂商为具备自主执行能力的智能体产品做出安全保障承诺。他建议企业搭建不受 AI 实验室管控的独立系统，用以监督和管控这些智能体。

纳德拉写道：“我们正在部署这类复杂的智能体系统与模型，它们可以访问我们最敏感的数据，还能代表我们执行关键业务操作。我们绝不能把智能体代我们行事的责任外包出去……我们需要将智能能力的供给，和对它的管控权限分离开。”

微软安全业务负责人海耶特·加洛（Hayete Gallot）表述更为直白：“遗憾的是，前沿模型无论来源是哪里，都无法完全信任。”她补充说，这并非因为模型本身带有恶意或容易被攻破，而是其行为具有不可预测性——模型的训练目标是完成任务，而非遵守组织规范或判断准则。加之智能体往往手握高权限，一旦失控便会造成严重损害。

让监控者与提供者相互独立

微软给出的方案带有明确的商业逻辑：监控智能体行为的软件，应当和智能体的提供方相互独立，正如审计机构需要独立于被审计的组织。纳德拉所强调的“供给与管控分离”，正是这一思路的体现。

在具体产品层面，微软还在 Defender 中新增智能体检测功能，最多可识别员工带入工作环境的 60 种智能体，其中包括 Claude Code、Codex 以及 OpenClaw。系统同时支持限制智能体访问数据与系统的权限，并根据任务动态调整；当智能体即将执行高风险操作时，会要求人工审批。

行业正形成共识

将智能体视为不可信任的内部威胁，这一思路正在整个行业形成共识。微软是英伟达全新“开放智能体安全平台”（Open Agent Safety Platform）的创始成员，该平台已获得超过 100 家科技企业支持，通过将智能体隔离在安全环境中、依托硬件监测并终止异常行为，扮演类似“紧急切断开关”的角色。在此之前，微软已发布专为智能体打造的新款 Surface Laptop Ultra 笔记本电脑，设备搭载英伟达芯片，内置智能体安全管控模块。