数据反常到不像内容问题

出事的是德国科普动画频道 Kurzgesagt，订阅数超过 2500 万，以高密度信息量和精致的扁平化动画著称。该频道在 7 月 31 日公开表示，最先察觉到的是播放量出现异常波动，随后一期关于“超级掠食者”的视频表现“极其”糟糕，成为自 2013 年以来成绩最差的一次上传。

让团队起疑的正是数据之间的矛盾。按常理，视频扑街往往伴随点击率低、完播差、反馈负面，但这次几乎每一项核心指标都在平均线以上：点进来的观众更多，看得更久，反应也更积极。唯独平台停止了推荐。

在联系 YouTube 之后，对方工作人员很快确认确实出了问题。Kurzgesagt 给出的解释是：“事实证明，YouTube 的自动 AI 检测工具错误地认为，我们完全由人工制作的视频是 AI 垃圾内容。”该频道表示，这次误判开始“扼住”其内容的传播范围。平台随后协助处理了此事，但频道方面也只能寄希望于这个问题已经被修复。目前那期“超级掠食者”视频已被下线，团队计划在数周内重新上传更新版本。

“被判定为垃圾内容，等于被影子封禁”

创作者数据分析公司 vidIQ 在一期分析视频中指出，这种未经告知的限制实质上就是影子封禁——账号看似正常，内容却不再被分发。

“如果 YouTube 把某个内容判定成 AI 垃圾，而我们已经充分证明 Kurzgesagt 并不是，那平台就会掐住这个频道，”vidIQ 表示，“AI 垃圾内容等于影子封禁。”

更值得注意的是纠错渠道的不对等。Kurzgesagt 体量足够大，能直接找到平台方对接并快速解决；绝大多数中小创作者没有这种条件。vidIQ 援引一位同样遭遇流量下滑的 500 万订阅创作者的说法：“这么大的频道能发现问题并纠正过来，但不是每个人都有这个能力。”在相关内容的评论区，数十位创作者称自己也怀疑被 AI 检测系统盯上，流量“彻底枯竭”。

1% 的误判率，落到个体身上就是 100%

vidIQ 还提到一篇 Google Research 的论文，其中描述了一套部署在某大型视频平台上的检测系统：半年内终止了 5 万个账号集群，涉及 13 万个合成内容垃圾频道。论文并未指明这个平台是 YouTube，但 vidIQ 认为研究者均为谷歌员工，系统很可能就部署在 YouTube 上。

论文同时给出了一个看似漂亮的数字：申诉推翻率低于 1%。放在这个量级下换算，即便按 1% 计算，也意味着可能存在数百起误判。对平台来说这是可接受的统计噪声，对被误伤的创作者来说，则是收入和渠道的全部。

这一系列动作有其背景。YouTube 首席执行官 Neal Mohan 此前公开承诺要打击低质量 AI 内容，起因之一是有报告发现，新用户被推荐的视频中约 21% 属于 AI 垃圾内容。平台此后清理或清空了一批大型 AI 内容频道，并明确表示重复性的、或“令人不满或倒胃口”的视频可能失去变现资格。

真正棘手的问题在于判据

治理低质 AI 内容的方向本身几乎无人反对，难点在于机器如何区分“AI 生成”与“人工制作但风格接近 AI”。Kurzgesagt 的动画由团队逐帧打磨，风格高度统一、画面干净、配音节奏规整——这些特征恰好与批量生成内容的表层特征重合。当检测模型依赖的是画面质感、更新节奏、是否出现真人出镜这类代理指标时，误伤高度风格化的正经创作几乎是必然结果。

这件事对国内平台同样有参照意义。随着 AI 生成内容规模膨胀，各类平台都在上线识别与降权机制，而识别精度、误判后的申诉通道、以及中小创作者能否被听见，最终决定了这类治理是净化生态还是制造新的不确定性。

来源：Dexerto、vidIQ、Kurzgesagt 官方社交账号

Snap：不是反对 AI，是反对”全自动流水线”

按照 Snap 官方公告的说法，从本月起，完全由 AI 生成的视频将不再具备 Spotlight 的推荐资格。需要注意的是，这条规则针对的是”推荐资格”，而不是内容本身——这类视频依然可以存在于平台上，只是很难再被算法推送给创作者的粉丝之外的人。对靠播放量涨粉或变现的账号来说，失去推荐资格几乎等同于失去价值。

Snap 明确表示这不是在拒绝 AI。使用 Snapchat 自带的 AI 创作工具对内容进行”增强或编辑”，依然可以获得推荐，同时会带上透明度标识。区别在于，AI 究竟是在辅助创作者，还是彻底取代了创作过程：真人拍摄的画面加上 AI 特效可以被推荐，靠提示词和模板批量生成的成片则不行。Snap 在公告中还提到，Spotlight 的全球独立创作者数量同比增长超过 120%，公司有充分理由不让这批人被自动化账号淹没。

两周之内，四家平台先后出手

YouTube 本月更新了变现政策，明确把三类”非原创内容”排除在获利资格之外：套路化、重复性、模板化的内容。这几类内容恰恰是生成式工具最容易大批量制造的。此外，由 AI 人设讨论健康、理财等敏感话题的视频也被纳入限制范围。去年就有研究发现，YouTube 上存在大量完全由 AI 生成内容构成的频道，其中不少拥有数百万订阅者，有的年收入达到数百万美元。

YouTube 信任与安全负责人 Matt Halprin 在谈到新规时说：「同样的技术确实能带来很棒的东西，但它也催生了内容农场那一类东西，而那正是我们不想要的。」

职场社交平台 LinkedIn 本周上线了举报入口，用户可以直接标记疑似由 AI 生成的帖子或评论——按钮上写的就是”看着像 AI 垃圾”。该平台首席产品官 Hari Srinivasan 表示，AI 垃圾内容是所有人的头等大事，最近几个月平台已经拦截了”数十亿次”AI 生成评论的发布尝试，目前每天仍能抓到数十万次自动化评论。同时，LinkedIn 撤下了此前写帖时自动弹出的”用 AI 润色”提示，改回单纯的校对工具。

订阅制写作平台 Substack 则推出了一款供读者识别 AI 撰写内容的工具。联合创始人兼首席执行官 Chris Best 在发布时引用了一项研究：社交媒体上多达 40% 的文字内容如今是虚假或由 AI 生成的。他的判断是：「奖励虚假内容的平台，只会引发一场逐底竞争。」他还有一句更直接的感慨——「现在越来越难分清网上什么是真的了。」

再往前看，图片社交平台 Pinterest 去年就允许用户”调低”推荐流中的 AI 内容比例；Meta 本月上线的一项 Instagram 功能——允许用户用 AI 修改公开账号发布的照片——因为遭到强烈反对已被整个撤回。

为什么平台突然集体紧张

生成式工具把内容生产的时间和成本压到了极低。一个人不需要拍摄、不需要演员、不需要创意，就能一天产出几十条成片。对于以互动数据为核心的推荐系统来说，这构成了实实在在的威胁：自动化账号的发布频率远超个人创作者，即便每条内容价值有限，也足以在信息流中形成压倒性的数量优势；而以互动率为主要训练目标的算法，往往会先奖励那些猎奇或情绪化的合成内容，再谈质量。

更深一层的风险在信任。已有研究显示，用户普遍认同 AI 生成内容”低质、重复”的描述；另一项调查则发现，一个人在信息流里刷到的 AI 内容越多，他就越不相信自己看到的任何线上内容是真实的。这才是平台真正害怕的结果——真假难辨到最后，用户干脆什么都不信。

中国市场同样在推进标识化

在内容标识这条路上，中国市场的做法更偏向强制。《人工智能生成合成内容标识办法》已于 2025 年 9 月 1 日起施行，要求生成合成内容添加显式标识与隐式标识，各大内容平台随后陆续上线了 AI 内容标注与提示功能。相比之下，海外平台目前的做法更多是在推荐权重和变现资格上做减法，思路不同，但指向的问题是同一个。

来源：BBC News《Snapchat joins other popular platforms in fight against ‘AI slop’》（Kali Hays）、Snap 官方公告、TechCrunch、Engadget