从段子到”权威答案”

最先注意到这一异常的是科技媒体 Futurism。当用户搜索 Flock 摄像头的废品回收价值时，谷歌的人工智能摘要给出的答复相当具体：单台设备的电路板和线路中含有 1 到 5 克黄金，另有 2 到 23 磅可回收的铜。

问题在于，Flock 的这类摄像头整机重量只有约 3 磅。一台 3 磅重的设备不可能装下 23 磅铜。同样值得注意的是，消费电子产品中的贵金属通常只以微量形式存在，回收需要昂贵的工业流程，实际残值往往只有几美分级别，远达不到”值得拆解”的程度。

追溯谷歌所引用的信息源后，情况变得更清楚：一处是一篇匿名的 Substack 博客文章，其中把废品价值标注为 150 至 500 美元，并自称是基于”废品价值讨论”得出的估算；另一处则是一条由人工智能生成的 Instagram 帖子。两者都不包含任何真实的拆机数据。

反讽被当成了参数表

这些数字的源头，是围绕 Flock 设备形成的一种网络调侃。Flock Safety 运营的是一套自动车牌识别系统，摄像头拍摄经过的车辆，将车牌转换为可检索的文本，连同车型描述、位置和时间戳一起上传到云端数据库，供获得授权的用户查询。这类系统在隐私议题上长期存在争议，一些社区便用夸张的”废品价值”作为调侃素材，本质上是玩笑与表态的混合体。

按照相关报道的分析，谷歌的系统没有识别出其中的反讽成分，而是把这些帖子当成了直白的事实陈述，并原样复述出来。人工智能摘要在设计上追求简洁笃定的表达，语气上的确定性本是产品卖点，但这也意味着一句拆设备的玩笑，会以与产品规格书完全相同的口吻被输出——没有保留、没有存疑提示。

在错误被曝光后，谷歌已修正了相关回答。目前搜索同一问题，系统会明确指出：声称单台设备含有 2 至 23 磅铜的说法源自网络谣言与人工智能幻觉，完全不实，因为整个摄像头外壳只有约 3 磅重，黄金也仅以小型电子设备常见的微量形式存在。略显讽刺的是，修正后的答案所引用的来源，正是报道这次失误的一系列媒体文章。

不是第一次把玩笑当真

这类失误此前已有先例。谷歌的人工智能摘要曾把 Reddit 上的一条老玩笑当作正经建议，提示用户在披萨上涂抹胶水以防止奶酪滑落。两次事件的机制高度相似：模型抓取到了公开网络上的文本，却没有对其语境、可信度乃至基本物理常识做出判断。

对使用者而言，这次事件提示了一个容易被忽略的区别：一条摘要”附有来源”，并不等于这些来源真的支撑了摘要中的具体结论。当查询内容涉及金额、健康、安全等有实际后果的场景时，点开原始链接核对，仍然是必要的一步。

而在讽刺和夸张本就是主流表达方式的网络社区里，这类系统性风险短期内恐怕难以彻底消除。

来源：TechSpot / Futurism / Gizmodo