3 磅重的摄像头,谷歌 AI 说里面有 23 磅铜

一台总重约 3 磅(1.36 公斤)的摄像头,内部却装着 23 磅(约 10.4 公斤)铜——这个在物理上完全说不通的说法,一度出现在谷歌搜索的人工智能摘要(AI Overviews)里,并被当作技术参数一样呈现给用户。

从段子到”权威答案”

最先注意到这一异常的是科技媒体 Futurism。当用户搜索 Flock 摄像头的废品回收价值时,谷歌的人工智能摘要给出的答复相当具体:单台设备的电路板和线路中含有 1 到 5 克黄金,另有 2 到 23 磅可回收的铜。

问题在于,Flock 的这类摄像头整机重量只有约 3 磅。一台 3 磅重的设备不可能装下 23 磅铜。同样值得注意的是,消费电子产品中的贵金属通常只以微量形式存在,回收需要昂贵的工业流程,实际残值往往只有几美分级别,远达不到”值得拆解”的程度。

追溯谷歌所引用的信息源后,情况变得更清楚:一处是一篇匿名的 Substack 博客文章,其中把废品价值标注为 150 至 500 美元,并自称是基于”废品价值讨论”得出的估算;另一处则是一条由人工智能生成的 Instagram 帖子。两者都不包含任何真实的拆机数据。

反讽被当成了参数表

这些数字的源头,是围绕 Flock 设备形成的一种网络调侃。Flock Safety 运营的是一套自动车牌识别系统,摄像头拍摄经过的车辆,将车牌转换为可检索的文本,连同车型描述、位置和时间戳一起上传到云端数据库,供获得授权的用户查询。这类系统在隐私议题上长期存在争议,一些社区便用夸张的”废品价值”作为调侃素材,本质上是玩笑与表态的混合体。

按照相关报道的分析,谷歌的系统没有识别出其中的反讽成分,而是把这些帖子当成了直白的事实陈述,并原样复述出来。人工智能摘要在设计上追求简洁笃定的表达,语气上的确定性本是产品卖点,但这也意味着一句拆设备的玩笑,会以与产品规格书完全相同的口吻被输出——没有保留、没有存疑提示。

在错误被曝光后,谷歌已修正了相关回答。目前搜索同一问题,系统会明确指出:声称单台设备含有 2 至 23 磅铜的说法源自网络谣言与人工智能幻觉,完全不实,因为整个摄像头外壳只有约 3 磅重,黄金也仅以小型电子设备常见的微量形式存在。略显讽刺的是,修正后的答案所引用的来源,正是报道这次失误的一系列媒体文章。

不是第一次把玩笑当真

这类失误此前已有先例。谷歌的人工智能摘要曾把 Reddit 上的一条老玩笑当作正经建议,提示用户在披萨上涂抹胶水以防止奶酪滑落。两次事件的机制高度相似:模型抓取到了公开网络上的文本,却没有对其语境、可信度乃至基本物理常识做出判断。

对使用者而言,这次事件提示了一个容易被忽略的区别:一条摘要”附有来源”,并不等于这些来源真的支撑了摘要中的具体结论。当查询内容涉及金额、健康、安全等有实际后果的场景时,点开原始链接核对,仍然是必要的一步。

而在讽刺和夸张本就是主流表达方式的网络社区里,这类系统性风险短期内恐怕难以彻底消除。

来源:TechSpot / Futurism / Gizmodo