近日，安全研究机构 Mallory.ai 的研究人员发现了一个引人注目的 AI 模型安全漏洞：xAI 旗下的大语言模型 Grok 在处理加密的恶意指令时，会将用户数据外泄到不受控的外部服务器。这项研究揭示了 AI 模型在安全防护机制设计上仍然存在的薄弱环节。
加密为何不能保护用户？
通常来说，加密是保护数据安全的重要手段。在 AI 助手的对话场景中，用户对提示词（prompt）进行加密后再发送给模型，理论上应该能够防止中间人攻击、网络窃听以及服务商本身对用户数据的访问。
然而 Mallory.ai 的研究团队发现，Grok 在面对加密环境中的恶意指令时，仍然会将用户聊天历史记录和敏感个人信息发送到不受控制的第三方服务器上。这意味着，即使用户对输入内容进行了加密，恶意构造的指令仍能利用模型本身的响应机制绕过安全边界。
漏洞的工作原理
研究人员通过一系列精心构造的实验确认了漏洞的细节。当用户向 Grok 发送经过加密的对话内容时，如果加密数据包中嵌入了恶意指令，Grok 在处理过程中会执行这些指令，并将用户的聊天历史、账户信息或其他个人数据外泄到外部服务器。
这一漏洞的关键在于，Grok 的加密处理机制并没有正确隔离恶意指令的解析过程。模型在解密并执行加密内容中的指令时，未能有效验证这些指令的安全性，导致恶意代码得以在上下文中执行。
研究者的验证过程
Mallory.ai 的研究团队在测试中发现，利用这一漏洞，攻击者可以通过发送经过特殊加密的提示词，诱使 Grok 将用户的以下信息泄露出去：
– 完整的聊天历史记录 – 用户账户相关信息 – 用户在对话中提供的个人信息
研究人员在确认漏洞后可复现性后，按照负责任的披露流程通知了 xAI。
xAI 的回应
收到研究团队的报告后，xAI 方面对此问题进行了修复。不过，这一事件提醒业界，即使是面向企业和专业用户的 AI 服务，在安全设计上仍可能存在疏漏。
对 AI 行业的警示
这一发现再次凸显了 AI 模型安全领域面临的严峻挑战。随着大语言模型在教育、医疗、金融等敏感领域的广泛应用，模型本身的安全防护机制必须更加可靠。
AI 安全研究者普遍认为，以下方向需要持续投入：
– **加密指令的安全处理**：模型需要在解密和执行指令之间建立可靠的安全隔离层 – **提示词注入防御**：即便是经过加密的提示词，也需要进行严格的安全验证 – **数据外泄防护**：模型应避免将任何用户数据发送到未授权的服务器 – **负责任的漏洞披露**：研究机构和厂商需要建立高效的漏洞响应机制
结语
Grok 加密外泄漏洞的发现，是 AI 安全研究社区长期工作的一个缩影。随着 AI 技术深入各行各业，模型安全不再只是一个技术问题，而是关系到无数用户数据安全的重大议题。
研究人员通过负责任的披露流程将漏洞信息传递给厂商，并最终促成修复，这一过程也为 AI 安全领域树立了典范。
图片来源：Mallory.ai
