虚假信息 – mylogs.cn https://mylogs.cn 发现、记录、分享 Wed, 30 Sep 2026 14:06:55 +0000 zh-Hans hourly 1 新加坡男子用AI生成鳄鱼照被起诉：传播假图面临重罚 https://mylogs.cn/%e6%96%b0%e5%8a%a0%e5%9d%a1%e7%94%b7%e5%ad%90%e7%94%a8ai%e7%94%9f%e6%88%90%e9%b3%84%e9%b1%bc%e7%85%a7%e8%a2%ab%e8%b5%b7%e8%af%89%ef%bc%9a%e4%bc%a0%e6%92%ad%e5%81%87%e5%9b%be%e9%9d%a2%e4%b8%b4%e9%87%8d/ Wed, 30 Sep 2026 14:06:55 +0000 https://mylogs.cn/%e6%96%b0%e5%8a%a0%e5%9d%a1%e7%94%b7%e5%ad%90%e7%94%a8ai%e7%94%9f%e6%88%90%e9%b3%84%e9%b1%bc%e7%85%a7%e8%a2%ab%e8%b5%b7%e8%af%89%ef%bc%9a%e4%bc%a0%e6%92%ad%e5%81%87%e5%9b%be%e9%9d%a2%e4%b8%b4%e9%87%8d/ 新加坡男子用 AI 生成的虚假鳄鱼照片（示意）

据新加坡本地媒体亚洲电视台报道，一名新加坡男子因涉嫌制作并传播一张”鳄鱼侵袭水库”的图片，被当地警方起诉。如果罪名成立，他最高可能面临 10 年监禁，以及 1 万新加坡元（按当前汇率约合 52,585 元人民币）的罚款。

一张 AI 生成的假图引发连锁反应

报道称，这名男子名为 Ye Lin。当地时间 8 月 20 日下午 3 点左右，他使用谷歌 Gemini 应用程序生成了一张鳄鱼出现在水库中的图片，随后将这张 AI 生成的照片发送给了同事 Min Min Oo。由于内容极具冲击力，这张图片很快在互联网上广泛传播。

事态随后超出玩笑范畴。新加坡国家水务机构 PUB 接到报案，称有人在 Pandan 水库发现了鳄鱼。PUB 随即联系国家公园局，在水库内展开搜寻，并要求民众暂时不要在水库附近进行任何水上活动。

当地时间 8 月 21 日，PUB 确认这张图片并不真实，因此向警方报案。就在同一天，Ye Lin 打开了自己的手机，删除了 Gemini 应用程序中保存的鳄鱼图片以及相关操作记录。

两项指控：传播虚假信息与妨碍司法公正

根据警方信息，Ye Lin 被指控传播虚假信息，以及事后故意删除照片、妨碍司法公正。新加坡警方表示，他们对任何传播虚假信息的人士采取零容忍态度。Ye Lin 将于 11 月 10 日再次出庭。

如果上述两项罪名均成立，他最高可被判处 10 年监禁，并处以 1 万新加坡元（约 52,585 元人民币）罚款。

AI 生成内容的边界在哪里

这起案件反映出，随着生成式人工智能工具的普及，AI 生成图像与视频的真实性和传播边界正成为现实问题。一张由人工智能生成的图片，在几秒钟内就可能借助社交网络扩散，并引发真实的公共响应与资源调动。当虚假内容牵涉公共安全、引发不必要的应急行动时，其后果已远超”恶作剧”范畴。

近年来，全球多个市场都在加强对深度伪造内容与 AI 生成虚假信息的治理。一些地区的监管思路集中在两个方向：一是对意图误导公众、扰乱公共秩序的 AI 合成内容设定明确法律责任；二是在传播环节要求平台对可疑的合成媒体进行标识与溯源。对普通用户而言，使用 AI 工具娱乐或创作时，也需意识到：一旦生成内容被用于误导他人、引发公共误解，就可能越过法律红线。

不过，如何在打击虚假信息与保障技术正常使用之间取得平衡，仍是各地监管面临的共同挑战。新加坡这起案件的最终判决，或将为类似情形提供值得关注的参考。

]]> 你信了多年的卫星图，谷歌一天就能造假 https://mylogs.cn/%e4%bd%a0%e4%bf%a1%e4%ba%86%e5%a4%9a%e5%b9%b4%e7%9a%84%e5%8d%ab%e6%98%9f%e5%9b%be%ef%bc%8c%e8%b0%b7%e6%ad%8c%e4%b8%80%e5%a4%a9%e5%b0%b1%e8%83%bd%e9%80%a0%e5%81%87/ Mon, 03 Aug 2026 02:41:03 +0000 https://mylogs.cn/%e4%bd%a0%e4%bf%a1%e4%ba%86%e5%a4%9a%e5%b9%b4%e7%9a%84%e5%8d%ab%e6%98%9f%e5%9b%be%ef%bc%8c%e8%b0%b7%e6%ad%8c%e4%b8%80%e5%a4%a9%e5%b0%b1%e8%83%bd%e9%80%a0%e5%81%87/ 你有没有过这种习惯——遇到突发事件，先去谷歌地球截一张卫星图当证据？最近谷歌给地球加了人工智能生图功能，结果上线不到一天就被自己紧急下架，因为这功能能让任何人几秒钟造出“国会大厦被淹”“核电站爆炸”的假卫星图。

你信了多年的卫星图，谷歌一天就能造假
图片来源：The Atlantic

核心就一件事：谷歌地球多年一直是记者和调查机构做事实核查的“信任锚”，现在它自己成了假图制造机。

说白了，这不是技术不行，是谷歌又犯了老毛病——先把功能甩出来，再补安全。一个绑着真实地理坐标的假图，天然带着“官方可信”的滤镜，普通人肉眼根本分不出真假，一旦传开就是大范围恐慌。我的判断是，这类绑定真实位置的生成工具，风险远超普通修图软件，谷歌这次算是给全行业提了个醒：嘴上喊安全，手上别太急。

下次再看到“震撼卫星图”，先别急着转。去权威地图或新闻社核对坐标和日期，被裁过、压过码的隐形水印基本已经失效。你最近有没有差点信了某张假图？评论区聊聊。

来源：《大西洋月刊》（The Atlantic）

]]> 谷歌AI水印实测：压缩300次弄不掉，裁剪20%就失效 https://mylogs.cn/%e8%b0%b7%e6%ad%8cai%e6%b0%b4%e5%8d%b0%e5%ae%9e%e6%b5%8b%ef%bc%9a%e5%8e%8b%e7%bc%a9300%e6%ac%a1%e5%bc%84%e4%b8%8d%e6%8e%89%ef%bc%8c%e8%a3%81%e5%89%aa20%e5%b0%b1%e5%a4%b1%e6%95%88/ Thu, 30 Jul 2026 01:19:40 +0000 https://mylogs.cn/%e8%b0%b7%e6%ad%8cai%e6%b0%b4%e5%8d%b0%e5%ae%9e%e6%b5%8b%ef%bc%9a%e5%8e%8b%e7%bc%a9300%e6%ac%a1%e5%bc%84%e4%b8%8d%e6%8e%89%ef%bc%8c%e8%a3%81%e5%89%aa20%e5%b0%b1%e5%a4%b1%e6%95%88/ AI 生成的图片满天飞，怎么分辨真假？谷歌给出的答案是隐形水印 SynthID。这套技术到底扛不扛得住折腾？Ars Technica 资深记者瑞安·惠特瓦姆（Ryan Whitwam）7 月 29 日发布了一篇实测报告：SynthID 比想象中结实得多，但也远不是解决 AI 虚假信息的万能药。

谷歌AI水印实测：压缩300次弄不掉，裁剪20%就失效
图片来源：Ars Technica（实测用 AI 生成图）

隐形水印是怎么藏进图里的

目前给 AI 内容打标记主要有两条路：一条是 C2PA 元数据标签，相当于给文件贴「出生证明」，但元数据可以被轻易抹掉；另一条就是 SynthID 这样的隐形水印——它直接编码在图片或视频的像素中（音频则藏在波形里），肉眼完全看不出来，而且水印像素散布在整张图上，天生带一定的抗裁剪能力。

不过谷歌在原始论文中就明确说过，SynthID 并非加密级的防篡改设计，不承诺抵御针对性的对抗攻击。谷歌也没有开放公开的检测接口——想验证一张图，只能把它传给 Gemini 请求检查，而且每天限额大约 10 次。

300代压缩、截图都没弄掉它

为了模拟图片在网络上被反复转发、压缩、转存的损耗，惠特瓦姆用 Python 的 Pillow 库写了一个脚本：每一轮随机挑选压缩率和缩放参数处理图片，再把输出作为下一轮的输入，如此迭代。测试对象有两张——一张由谷歌 Nano Banana Pro 模型凭空生成，一张是真实照片经谷歌 AI 编辑，两张都带 SynthID 水印。

结果出人意料：整整 300 代压缩缩放折腾下来，两张图的画质已明显劣化，但水印全都还在，Gemini 依然能准确识别。就连把图片截屏另存成新文件，特殊像素也照样转移过去，检测照样通过。作为对比，路透社此前测试 Meta 的 Content Seal 水印时，轻微裁剪就能让它失效。

但 SynthID 的软肋同样明显：裁剪。在 300 代压缩之后再裁掉 20% 的画面，两张图的水印都检测不出来了；如果直接裁掉 50%，大约在 250 代压缩时水印就已经失守。

水印再硬，也解决不了根本问题

谷歌 DeepMind 科学家普什米特·科利（Pushmeet Kohli）表示，团队从一开始就假设这项技术会遭到攻击，做了大量工作让 SynthID 能扛住滤镜、裁剪等各类变换；网上有人声称已经破解，但团队始终无法复现。他还透露，谷歌备有更换水印方案等缓解手段，只是细节必须保密。

问题在于，水印只能标记「愿意打标」的内容。斯坦福大学与南加州大学合作的斯特林实验室（Starling Lab）研究员亚当·罗斯（Adam Rose）指出，真正的麻烦来自中心化大厂之外——任何人都可以在自己的电脑上运行开源模型，生成完全不带水印的图片。资深摄影记者迈克·卡罗纳（Mike Caronna）的判断更进一步：合成内容的供给是无限的，真实拍摄的内容才是稀缺品，行业应当转向保护和认证真实内容，以对抗所谓「骗子红利」——即假图泛滥后，连真图都会被人质疑。

现实还有另一重尴尬：水印生态四分五裂。OpenAI、Runway、英伟达各用各的水印方案，彼此互不识别；谷歌发言人对此回应称，公司了解目前体验不佳，正与合作伙伴推动一个统一、可互相验证的生态。

这篇实测的结论是：SynthID 在抗压缩、抗转存上表现扎实，值得肯定，但给 AI 内容打标签注定只是治标——当开源模型可以随时绕开水印，与其大海捞针地「找假」，不如像 C2PA 加密元数据那样去「证真」。未来，没有可验证来源的内容，恐怕都得先打个问号。

来源：Ars Technica

]]>