幻觉 – mylogs.cn https://mylogs.cn 发现、记录、分享 Fri, 31 Jul 2026 01:50:44 +0000 zh-Hans hourly 1 Reddit玩家恶搞未发售游戏，谷歌AI信以为真——AI搜索的”幻觉”危机 https://mylogs.cn/reddit%e7%8e%a9%e5%ae%b6%e6%81%b6%e6%90%9e%e6%9c%aa%e5%8f%91%e5%94%ae%e6%b8%b8%e6%88%8f%ef%bc%8c%e8%b0%b7%e6%ad%8cai%e4%bf%a1%e4%bb%a5%e4%b8%ba%e7%9c%9f-ai%e6%90%9c%e7%b4%a2%e7%9a%84/ Thu, 23 Jul 2026 00:59:22 +0000 https://mylogs.cn/reddit%e7%8e%a9%e5%ae%b6%e6%81%b6%e6%90%9e%e6%9c%aa%e5%8f%91%e5%94%ae%e6%b8%b8%e6%88%8f%ef%bc%8c%e8%b0%b7%e6%ad%8cai%e4%bf%a1%e4%bb%a5%e4%b8%ba%e7%9c%9f-ai%e6%90%9c%e7%b4%a2%e7%9a%84/ FromSoftware的Switch 2独占新作《暗夜之血》（The Duskbloods）连首次公开试玩都还没开始，谷歌AI却已经开始一本正经地给搜索者介绍游戏里的Boss角色和解锁方法了。这些信息全是Reddit玩家编出来的。

AI搜索幻觉与虚假信息示意图
AI生成配图

Reddit社区的集体创作

这一切始于Reddit的r/TheDuskbloods子版块。FromSoftware公布新作后，官方情报少得可怜，首次封闭网络测试要到下个月才开始。等待的玩家们忍不住了，开始自发编造角色设定——而且编得相当认真。

Bugout Billy，据说是在Underdusk区域的Duskbug Brigade Boss战中解锁的隐藏角色——名字一看就是玩笑。但Blood Mistress Elizabeth呢？被描述为”纯属粉丝服务型Boss”。还有Lycan Vrykolakas，被称为”Blaidd 2.0″和”绝对的影院级演出”。用户Southern_Copy_6173甚至制作了一份Boss排行榜，从背景设定、美术风格到战斗机制都写得有板有眼，几个月后任何不小心刷到这个帖子的路人几乎都会信以为真。

谷歌AI毫无辨别能力

Video Game Town的Ian Walker最先发现了这个问题。当用户在谷歌搜索《暗夜之血》相关信息时，AI搜索会自信满满地输出Reddit上那些编造的角色资料。

Eurogamer的记者亲自验证了这一现象。当直接询问”已确认的《暗夜之血》Boss有哪些”时，谷歌AI表现谨慎，标注目前没有官方信息。但只需稍微调整提问方式——比如询问Lycan Vrykolakas是否是游戏中的角色——AI就会改口确认，声称这个虚构角色是可以在未发售游戏中挑战的真实Boss。

更令人不安的是，当追问Bugout Billy的特性与能力时，谷歌AI虽然承认信息来自Reddit帖子并将绰号标注为”非正式”，却依然给出了基于”并不存在的泄露内容”的详细解锁步骤，全程没有标注任何”此信息可能为虚假”的提示。

不是第一次了

这口被恶搞污染的井已经挖了很久。两个月前就有帖子揭示了一个叫Sanguiphisto的角色，声称是”当之无愧的S+级挑战”，当时谷歌AI就已经把它和Orlac、Blood Mistress Elizabeth一起收录进了自己的知识库。

这件事在游戏圈是笑话，但背后的问题远不止于此。当AI搜索系统无法区分Reddit上的玩笑帖和真实信息，不加甄别地将虚假内容以权威姿态呈现给用户时，这个系统本身就存在根本性的缺陷——而打造这个系统的公司，正以每季度数十亿美元的规模继续扩张。

来源：Eurogamer.net，Video Game Town

]]>