Meta本周突然下架了一项新功能，该功能允许用户使用其人工智能工具，从Instagram用户内容生成虚假图像。这距离该功能上线仅过去数日。

事件经过

这一功能是Muse Image的一部分——这是Meta旗下超级智能实验室（Superintelligence Labs）于周二（7月7日）发布的第一个原生图像生成模型。Muse Image通过Meta AI聊天机器人开放使用，并嵌入Instagram的创意功能中。

该功能允许Meta AI聊天机器人的用户在提示词中@一个公开的Instagram账号，快速利用该账号的公开内容来生成AI图像或经过AI修改的内容。这意味着任何拥有公开账号的Instagram用户，其形象都可能在不知情或未经允许的情况下被他人使用。

由于默认开启这一功能，Instagram用户被自动纳入。这迅速引发了隐私担忧的强烈反弹。

Meta的回应

Meta随后承认”考虑不周”，并表示该功能”已不再可用”。Meta在一份声明中表示：”我们的初衷是提供一个有用的创意工具，并让用户能够控制其公开内容是否以这种方式被引用。我们听到了反馈。”

当Meta宣布Muse Image时，公司表示该功能目前仅限于Instagram，但计划未来在WhatsApp、Facebook和Messenger上推出更多AI功能和整合。Meta还有一个正在开发中的AI视频工具。

行业反应

好莱坞演员工会Sag-Aftra将Meta的妥协称为一场”胜利”。该工会此前敦促其成员和”所有Instagram用户”采取行动保护自己的形象，称这体现了”对公众情绪——关于此类使用中显而易见的危险和危害——的彻底误判”。

总部位于伦敦的人权慈善组织Privacy International也批评了这一功能，告诉BBC这是”AI公司将用户的图像和数据视为可剥削原材料的又一迹象”。

科技巨头的AI内容治理困境

此次事件并非孤例。随着生成式AI技术的快速普及，科技公司面临着越来越大的压力，需要在创新与用户权益保护之间找到平衡。AI图像生成工具引发的隐私、版权和虚假信息问题已成为行业性挑战。

Muse Image的迅速撤回反映出，即使在Meta这样拥有强大法律和公关团队的科技巨头中，快速推出AI功能也伴随着巨大的风险。默认开启（opt-in by default）的做法尤其引发争议，用户往往在不知情的情况下成为AI训练或生成内容的数据来源。

隐私倡导者认为，涉及用户肖像和数据的AI功能应当采用”选择加入”（opt-in）模式，而非”默认开启”（opt-out）。Meta此次在不到一周时间内从发布到撤回的快速反转，可能促使其他科技公司在推出类似AI功能时采取更加审慎的态度。

Meta拒绝对此事发表进一步评论。Muse Image的其他功能——不涉及引用他人形象的常规AI图像生成——仍然可用。