2026年7月17日，旧金山市城市律师David Chiu正式向苹果和谷歌两家科技巨头发出停止通知信，要求它们从App Store和Google Play Store中移除共计13款AI”脱衣”换脸应用。这些应用的核心功能允许用户利用人工智能技术，在未经当事人同意的情况下生成裸体图像。此举标志着地方政府对AI深度伪造色情内容的治理力度进一步升级。

勒令下架：13款应用的具体情况

根据Chiu办公室披露的信息，这13款被点名的应用中，有8款上架于苹果App Store，5款上架于谷歌Play Store。这些应用在应用商店中以”换脸”工具的身份出现，表面上提供娱乐性的面部替换功能，但实际上具备制作性深度伪造内容的能力。研究人员指出，这类应用属于典型的”双重用途”工具——其公开功能看似无害，但隐藏功能可被滥用于生成未经同意的亲密图像。

值得关注的是，其中一款应用的下载量已超过100万次，反映出此类应用在用户中的传播范围之广。Chiu在信中明确要求苹果和谷歌停止”协助和教唆”深度伪造色情图像的销售和分发，并与这些应用的开发者”断绝”商业关系。

法律依据与监管行动

加州现行法律明确禁止支持创建深度伪造色情内容的服务。Chiu在声明中指出：”生成未经同意的亲密图像是非法、有害且完全不可接受的。”他表示，这类应用不仅侵犯个人隐私和尊严，还可能对受害者造成严重的心理伤害和社会后果。

此次行动并非Chiu办公室的首次介入。在此之前，该办公室已对16个热门深度伪造网站采取了法律行动。将目标从网站扩展至应用商店中的移动应用，表明监管层面对AI生成非法内容的打击正在从网页端向移动端全面延伸。

苹果与谷歌的回应与平台责任

通知信同时指出，苹果和谷歌可能从这些被标记的应用中收取了”数百万美元”的平台手续费，这引发了对应用商店审核机制有效性的质疑。

谷歌发言人Dan Jackson对此作出回应，表示谷歌已删除了”数百个”具备脱衣功能的类似应用。苹果方面则表示，公司已经移除了旧金山办公室所标记的13款应用中的3款，并正在终止相关开发者的账户。

然而，两家公司的回应与问题的实际规模之间存在明显差距。研究人员分别于今年1月和4月进行调查后发现，苹果和谷歌两个平台上大约存在100款类似功能的AI换脸应用，这些应用的累计下载量高达约4.8亿次，总收入约为1.2亿美元。

学术研究揭示的更大隐患

来自康奈尔大学和乔治城大学的学术研究进一步揭示了问题的严重性。研究团队对换脸类应用进行了系统性的识别和分析，共标记出420款换脸应用，其中约70%具备制作裸体图像的功能。这一比例表明，利用AI技术生成非自愿裸体图像的风险并非局限于少数违规应用，而是存在于整个换脸应用生态中。

Tech Transparency Project的研究人员Katie Paul对此评论称，苹果和谷歌在公共宣传中所塑造的平台安全形象与实际情况并不相符。她指出，尽管两家公司均宣称对应用内容进行严格审核，但大量具备非法功能的AI应用仍然长期存在于应用商店中。

事件背后的深层问题

此次旧金山城市律师办公室的行动，凸显了AI技术快速发展背景下应用商店审核体系面临的严峻挑战。AI换脸技术的门槛不断降低，使得深度伪造内容的制作变得日益便捷。与此同时，应用商店现有的审核机制在识别”双重用途”应用方面存在明显不足——这些应用往往通过伪装为合法的娱乐工具来规避内容审查。

从商业利益角度来看，平台与开发者之间的关系也是问题的重要一环。苹果和谷歌通过应用内购买和订阅分成从这些应用中获取可观收入，这在客观上形成了一种利益冲突：严格的审核和下架措施将直接影响平台的收入来源。Chiu办公室在信中特别要求两家公司”断绝”与相关开发者的商业关系，正是针对这一结构性矛盾提出的明确要求。

截至发稿时，苹果和谷歌尚未对这13款应用作出全面下架处理。旧金山城市律师办公室表示将持续关注两家公司的后续行动，并保留采取进一步法律措施的权利。