数据反常到不像内容问题

出事的是德国科普动画频道 Kurzgesagt，订阅数超过 2500 万，以高密度信息量和精致的扁平化动画著称。该频道在 7 月 31 日公开表示，最先察觉到的是播放量出现异常波动，随后一期关于“超级掠食者”的视频表现“极其”糟糕，成为自 2013 年以来成绩最差的一次上传。

让团队起疑的正是数据之间的矛盾。按常理，视频扑街往往伴随点击率低、完播差、反馈负面，但这次几乎每一项核心指标都在平均线以上：点进来的观众更多，看得更久，反应也更积极。唯独平台停止了推荐。

在联系 YouTube 之后，对方工作人员很快确认确实出了问题。Kurzgesagt 给出的解释是：“事实证明，YouTube 的自动 AI 检测工具错误地认为，我们完全由人工制作的视频是 AI 垃圾内容。”该频道表示，这次误判开始“扼住”其内容的传播范围。平台随后协助处理了此事，但频道方面也只能寄希望于这个问题已经被修复。目前那期“超级掠食者”视频已被下线，团队计划在数周内重新上传更新版本。

“被判定为垃圾内容，等于被影子封禁”

创作者数据分析公司 vidIQ 在一期分析视频中指出，这种未经告知的限制实质上就是影子封禁——账号看似正常，内容却不再被分发。

“如果 YouTube 把某个内容判定成 AI 垃圾，而我们已经充分证明 Kurzgesagt 并不是，那平台就会掐住这个频道，”vidIQ 表示，“AI 垃圾内容等于影子封禁。”

更值得注意的是纠错渠道的不对等。Kurzgesagt 体量足够大，能直接找到平台方对接并快速解决；绝大多数中小创作者没有这种条件。vidIQ 援引一位同样遭遇流量下滑的 500 万订阅创作者的说法：“这么大的频道能发现问题并纠正过来，但不是每个人都有这个能力。”在相关内容的评论区，数十位创作者称自己也怀疑被 AI 检测系统盯上，流量“彻底枯竭”。

1% 的误判率，落到个体身上就是 100%

vidIQ 还提到一篇 Google Research 的论文，其中描述了一套部署在某大型视频平台上的检测系统：半年内终止了 5 万个账号集群，涉及 13 万个合成内容垃圾频道。论文并未指明这个平台是 YouTube，但 vidIQ 认为研究者均为谷歌员工，系统很可能就部署在 YouTube 上。

论文同时给出了一个看似漂亮的数字：申诉推翻率低于 1%。放在这个量级下换算，即便按 1% 计算，也意味着可能存在数百起误判。对平台来说这是可接受的统计噪声，对被误伤的创作者来说，则是收入和渠道的全部。

这一系列动作有其背景。YouTube 首席执行官 Neal Mohan 此前公开承诺要打击低质量 AI 内容，起因之一是有报告发现，新用户被推荐的视频中约 21% 属于 AI 垃圾内容。平台此后清理或清空了一批大型 AI 内容频道，并明确表示重复性的、或“令人不满或倒胃口”的视频可能失去变现资格。

真正棘手的问题在于判据

治理低质 AI 内容的方向本身几乎无人反对，难点在于机器如何区分“AI 生成”与“人工制作但风格接近 AI”。Kurzgesagt 的动画由团队逐帧打磨，风格高度统一、画面干净、配音节奏规整——这些特征恰好与批量生成内容的表层特征重合。当检测模型依赖的是画面质感、更新节奏、是否出现真人出镜这类代理指标时，误伤高度风格化的正经创作几乎是必然结果。

这件事对国内平台同样有参照意义。随着 AI 生成内容规模膨胀，各类平台都在上线识别与降权机制，而识别精度、误判后的申诉通道、以及中小创作者能否被听见，最终决定了这类治理是净化生态还是制造新的不确定性。

来源：Dexerto、vidIQ、Kurzgesagt 官方社交账号

三条新规：告知、标识、加水印

此次生效的核心，是《人工智能法》第50条规定的透明度义务，主要包含三层要求。

其一，聊天机器人、虚拟助手等被设计用来与人直接交互的AI系统，必须明确告知用户，对方是人工智能而非真人——除非从情境看这一点已经显而易见。其二，利用AI生成或篡改的深度伪造图片、视频和音频，必须清楚地标明其为人工合成或经过修改的内容。其三，由AI生成或编辑的内容还需嵌入机器可识别的标记（即所谓“水印”），以便被检测、识别和追踪；用于告知公众、涉及公共利益的AI生成文本，同样需要披露。

欧盟委员会表示，这些措施旨在减少欺骗和操纵行为，帮助公众作出更知情的判断，同时也为企业提供更明确的合规路径。

罚则严厉，且具有域外效力

新规的约束力不容小觑。违反相关义务的企业，最高可被处以1500万欧元或全球年营业额3%的罚款，两者取其高；若向监管方提供不实、不完整或具误导性的信息，最高可罚年营业额的1%。

同一天，欧盟委员会对通用人工智能模型提供者的执法权也全面生效。这些模型的提供方需要公布技术文档和版权合规政策、披露训练数据摘要；被认定存在系统性风险的模型，还需提交对抗性测试结果。

需要提醒的是，该法具有域外效力：只要产品投放到欧盟市场、或其输出被欧盟用户使用，即便是欧盟以外（包括美国）的公司，也同样受到约束。这意味着任何面向欧盟用户提供聊天机器人或生成式功能的企业，都需将“披露”作为产品的硬性要求，而非可选项。

分阶段落地，高风险条款推迟

《人工智能法》采取分阶段实施。该法已于2024年8月1日生效，禁止性条款自2025年2月2日起适用，通用AI模型的相关规则则从2025年8月2日开始施行。此次8月2日生效的透明度义务，是又一个关键节点。

不过并非所有条款都同步落地。针对已经在市面上销售的系统，机器可识别标记的要求设有过渡期，可延至2026年12月2日；而聊天机器人身份披露、深度伪造标识则立即执行，没有缓冲期。此外，通过“数字综合法案”，招聘、信贷、教育、生物识别等高风险AI系统的义务已被推迟——独立系统延至2027年12月2日，嵌入产品的系统延至2028年8月2日。对全球AI企业而言，如何在合规与创新之间找到平衡，正成为一道绕不开的必答题。

来源：36氪（央视新闻）、欧盟委员会

一句提示词，就能篡改真实卫星图

据科技媒体The Verge报道，谷歌在周四上线了这项新能力，其背后调用的是谷歌的图像生成模型Nano Banana 2。用户只要在Google Earth里输入文字提示，就能对某个真实地点的卫星图或地表影像进行改写，效果几乎相当于凭空生成一张以假乱真的”真实世界深度伪造图”。

问题在于，卫星影像长期被外界视为客观、可信的地理证据。一旦任何人都能用自然语言随手改写这类画面，其潜在的误导风险不言而喻。有独立研究者在测试中，凭空在真实地理位置上添加了本不存在的建筑、设施和场景，用以说明这项功能可能被滥用于制造虚假信息。

水印为何拦不住风险

功能上线当天，谷歌方面最初回应称，通过Nano Banana 2在Google Earth中生成的图像都带有数字水印，公司也对”有害主题”的图像生成做了拦截。换句话说，谷歌认为水印加上内容过滤，足以控制风险。

然而，这套防线很快被证明并不牢靠。上述研究者演示称，他用Google Earth生成的一段视频，成功骗过了第三方AI检测工具Hive的识别；这意味着即便带着水印，被篡改的画面和视频依然可能在传播链条中被当成真实素材扩散。他还提到，在自己的测试里”没有任何提示词被拒绝、没有任何内容被弱化，系统也从未建议换一种说法再试”，也就是几乎没有有效的内容护栏。

谷歌：先下架，再补护栏

仅仅一天之后，谷歌改口宣布回滚该功能。官方表示：”我们知道人们格外信任Google Earth所呈现的可靠世界视图。我们看到地理信息专业人士把这项功能用于一系列有价值的用途，但也看到有人分享的生成图像疑似违反了我们的政策。因此，我们将在Google Earth中回滚这项功能，同时着手部署更强的防护措施。”

谷歌同时强调，这些被生成的图像并不会出现在其他用户看到的Google Earth主界面里，而且都被标注为AI生成。尽管如此，功能”朝生暮死”的经历依然说明：当强大的生成式AI直接嫁接到人们高度信任的地图与地理平台上时，仅靠水印和主题过滤远远不够，如何在开放能力与防止滥用之间取得平衡，仍是所有大厂绕不开的难题。

来源：The Verge