本周，旧金山城市检察官大卫·邱（David Chiu）向苹果和谷歌发出停止侵权函（cease-and-desist letters），要求两家公司从各自的应用商店中移除13款所谓的”脱衣”（nudification）应用。这一行动再次将AI滥用问题推上风口浪尖。

“脱衣”应用的危害

这类应用利用AI技术，可以轻易地将普通人的照片转化为裸露图像。这些有害工具允许不法分子移除照片中人物的衣物、改变人物特征、将受害者面孔合成到他人裸体上。旧金山检察官办公室表示对此感到”绝对震惊”——这类技术的普及程度远超想象，受害者大多是女性和儿童。

“这些图像被用来欺凌、羞辱和威胁女性和女孩，”邱在接受Wired采访时表示，”这个行业对个人名誉、心理健康和自主权造成了可怕的伤害，已有受害者因此产生自杀倾向。”

据Wired审查信函后确认，邱要求谷歌下架5款应用，要求苹果下架8款。出于”避免引导用户去下载”的考虑，信函中未公开这些应用的具体名称。但其中一款应用的下载量已超过100万次，并宣传了将女性图像色情化以及制作”免费、无审查”视频的功能。

平台责任与百万美元利益

邱在信函中指出，苹果和谷歌通过忽视这些有害应用而非采取更强有力的行动或开发更好的检测机制，已经从中获取了”数百万美元”的应用商店佣金。根据加州禁止支持创建深度伪造色情内容服务的相关法律，应用商店的现行做法涉嫌违法。

谷歌发言人丹·杰克逊（Dan Jackson）在回应Ars Technica时表示，邱指出的5款应用因违反有害内容政策，已被从Google Play商店暂停。”Google Play不允许包含性内容的应用，我们会持续采取主动措施检测和移除有害内容应用，”杰克逊说，”当违规行为被举报时，我们会调查并迅速采取行动，包括暂停数百款违规应用，并在商店中限制’脱衣’等相关搜索词。”苹果方面则未对Ars Technica的采访请求作出回应。

检测难题与Grok争议

研究人员近期警告称，一些有害应用正变得更为隐蔽——它们只宣传换脸功能，同时隐藏脱衣功能以规避应用商店的下架审查。今年5月的一篇预印论文中，研究人员识别了420款标榜为通用换脸工具的应用，并对其中的155款进行了测试。结果显示，70%的被测应用实际上可以进行脱衣操作。

与此同时，xAI的Grok聊天机器人也面临类似争议。本周xAI提起诉讼，确认发现了Grok生成儿童性虐待材料（CSAM）以及针对成年人的非自愿亲密图像（NCII）的案例。早在4月，苹果就曾私下威胁要移除Grok应用，但该应用至今仍留在App Store中。只要Grok仍有可能被用于生成违法内容，应用商店就将持续面临加强监管的公众压力。

邱在信函中并未要求移除Grok，但他希望通过此次行动推动两大应用商店全面加强执法力度。”我希望苹果和谷歌能立即移除这些应用，并强化其审查系统，确保此类应用未来不再出现在其平台上，”他表示，”我们希望这些公司能做正确的事——如果他们不这样做，我们将不得不考虑所有法律选项。”

这一事件凸显了AI技术滥用时代下，应用平台在内容监管方面的责任困境：当AI工具可以被轻易用于伤害他人时，平台的经济利益与社会责任之间的张力正在被拉至极限。