深度伪造 – mylogs.cn https://mylogs.cn 发现、记录、分享 Wed, 30 Sep 2026 14:06:55 +0000 zh-Hans hourly 1 新加坡男子用AI生成鳄鱼照被起诉：传播假图面临重罚 https://mylogs.cn/%e6%96%b0%e5%8a%a0%e5%9d%a1%e7%94%b7%e5%ad%90%e7%94%a8ai%e7%94%9f%e6%88%90%e9%b3%84%e9%b1%bc%e7%85%a7%e8%a2%ab%e8%b5%b7%e8%af%89%ef%bc%9a%e4%bc%a0%e6%92%ad%e5%81%87%e5%9b%be%e9%9d%a2%e4%b8%b4%e9%87%8d/ Wed, 30 Sep 2026 14:06:55 +0000 https://mylogs.cn/%e6%96%b0%e5%8a%a0%e5%9d%a1%e7%94%b7%e5%ad%90%e7%94%a8ai%e7%94%9f%e6%88%90%e9%b3%84%e9%b1%bc%e7%85%a7%e8%a2%ab%e8%b5%b7%e8%af%89%ef%bc%9a%e4%bc%a0%e6%92%ad%e5%81%87%e5%9b%be%e9%9d%a2%e4%b8%b4%e9%87%8d/ 新加坡男子用 AI 生成的虚假鳄鱼照片（示意）

据新加坡本地媒体亚洲电视台报道，一名新加坡男子因涉嫌制作并传播一张”鳄鱼侵袭水库”的图片，被当地警方起诉。如果罪名成立，他最高可能面临 10 年监禁，以及 1 万新加坡元（按当前汇率约合 52,585 元人民币）的罚款。

一张 AI 生成的假图引发连锁反应

报道称，这名男子名为 Ye Lin。当地时间 8 月 20 日下午 3 点左右，他使用谷歌 Gemini 应用程序生成了一张鳄鱼出现在水库中的图片，随后将这张 AI 生成的照片发送给了同事 Min Min Oo。由于内容极具冲击力，这张图片很快在互联网上广泛传播。

事态随后超出玩笑范畴。新加坡国家水务机构 PUB 接到报案，称有人在 Pandan 水库发现了鳄鱼。PUB 随即联系国家公园局，在水库内展开搜寻，并要求民众暂时不要在水库附近进行任何水上活动。

当地时间 8 月 21 日，PUB 确认这张图片并不真实，因此向警方报案。就在同一天，Ye Lin 打开了自己的手机，删除了 Gemini 应用程序中保存的鳄鱼图片以及相关操作记录。

两项指控：传播虚假信息与妨碍司法公正

根据警方信息，Ye Lin 被指控传播虚假信息，以及事后故意删除照片、妨碍司法公正。新加坡警方表示，他们对任何传播虚假信息的人士采取零容忍态度。Ye Lin 将于 11 月 10 日再次出庭。

如果上述两项罪名均成立，他最高可被判处 10 年监禁，并处以 1 万新加坡元（约 52,585 元人民币）罚款。

AI 生成内容的边界在哪里

这起案件反映出，随着生成式人工智能工具的普及，AI 生成图像与视频的真实性和传播边界正成为现实问题。一张由人工智能生成的图片，在几秒钟内就可能借助社交网络扩散，并引发真实的公共响应与资源调动。当虚假内容牵涉公共安全、引发不必要的应急行动时，其后果已远超”恶作剧”范畴。

近年来，全球多个市场都在加强对深度伪造内容与 AI 生成虚假信息的治理。一些地区的监管思路集中在两个方向：一是对意图误导公众、扰乱公共秩序的 AI 合成内容设定明确法律责任；二是在传播环节要求平台对可疑的合成媒体进行标识与溯源。对普通用户而言，使用 AI 工具娱乐或创作时，也需意识到：一旦生成内容被用于误导他人、引发公共误解，就可能越过法律红线。

不过，如何在打击虚假信息与保障技术正常使用之间取得平衡，仍是各地监管面临的共同挑战。新加坡这起案件的最终判决，或将为类似情形提供值得关注的参考。

]]> AI 假图冲进动物内容：丢猫的人先被骗了 https://mylogs.cn/ai-%e5%81%87%e5%9b%be%e5%86%b2%e8%bf%9b%e5%8a%a8%e7%89%a9%e5%86%85%e5%ae%b9%ef%bc%9a%e4%b8%a2%e7%8c%ab%e7%9a%84%e4%ba%ba%e5%85%88%e8%a2%ab%e9%aa%97%e4%ba%86/ Thu, 27 Aug 2026 03:10:42 +0000 https://mylogs.cn/ai-%e5%81%87%e5%9b%be%e5%86%b2%e8%bf%9b%e5%8a%a8%e7%89%a9%e5%86%85%e5%ae%b9%ef%bc%9a%e4%b8%a2%e7%8c%ab%e7%9a%84%e4%ba%ba%e5%85%88%e8%a2%ab%e9%aa%97%e4%ba%86/ 宠物和野生动物影像一直是互联网上最容易获得善意的内容类型。而据 WIRED 8 月 26 日报道，这块领域正在被 AI 生成的图片和视频搅乱：从北极熊到家猫，观众越来越难判断屏幕里的动物是真实存在还是被算法凭空造出来的。宠物主人、救助机构与野生动物保护组织正在呼吁建立新的防护机制。

AI 生成内容正在冲击互联网上的动物影像
图片来源：WIRED

一张 AI 假图，骗上门找丢失的猫

今年 4 月，Mibbby Butler 的猫 Brooklyn 走失。据她讲述，室友男友前一天把猫带走，丢在了距住处约 30 分钟车程的洛杉矶郊区。她在社交平台贴出寻猫海报，一边和室友开车沿路寻找，一边收到一名陌生人发来的照片——照片里 Brooklyn 坐在厨房台面上，被一个女孩抱着。

“我的宝贝没事！”她当时脱口而出。但对方随即提出条件：想接回猫，得先付一笔”临时照顾费”。这句话让她起了疑心，转而仔细比对照片：猫的姿势与她寻猫海报上那张一模一样，两张图背景里都出现了同一个 Torani 糖浆瓶和微波炉，只是新照片上瓶身的标签文字变成了扭曲的乱码——这是 AI 生成图像的典型破绽。

她最终没有付钱。”我不知道还有人拿丢失的宠物行骗，”她说，并表示自己没有报警，因为不确定这是否构成犯罪。四个月过去，Brooklyn 仍未找到。

真实的记录者，反而要证明”这不是 AI”

假图泛滥带来的第二重伤害落在真实内容的生产者身上。非营利机构 We Animals 发布过 175 位摄影记者的作品，记录农场、马戏团和科研实验室中涉嫌虐待动物及其他伤害的情形。该机构市场经理 Eva von Jagow 表示，这些素材本身就令人震惊，天然容易招来怀疑。

一段典型的例子是 We Animals 发布的无人机航拍：亚利桑那州一家奶牛场里，一排排小牛栏被指用于隔离与母牛分离的小牛。画面整齐得近乎催眠，反而显得”不像真的”。过去有人质疑这些作品是摆拍或 P 图，如今质疑升级成了”是不是 AI 做的”——尽管该机构明确禁止合作摄影师使用这项技术。本月就有一名 Instagram 用户在那段奶牛场视频下留言：”怎么证明这不是 AI？”

为了让观众相信内容真实，We Animals 预计要开始发布幕后花絮，并公开工作人员核验投稿的具体步骤，同时计划采用一种把出处与编辑历史嵌入图片、视频文件的技术。该机构视觉内容总监 Victoria de Martigny 说，保住可信度至关重要，否则可能”打开质疑我们全部工作的大门”，而”我们绝不希望走到那一步”。

假内容更便宜，于是它淹没了真内容

真实且有感染力的影像，长期是保护与救助项目获得关注和捐款的重要途径。但对于经营 AI 垃圾内容账号的人来说，合成图像是一条更省事的变现路径——点赞和广告分成同样能拿到，成本却低得多。

哲学家、动物保护活动人士 Oscar Horta 指出，正因为假内容制作成本远低于真实拍摄，它们看起来正在社交信息流和搜索结果中淹没真实素材。他最近参与执导了一部探讨 AI 如何影响野生动物的短片，也提到近来在网上刷到的一批离谱视频，比如火灾、洪水中营救野生动物的场面。

“有北极熊溺水、人们乘船赶去救它的深度伪造内容，”Horta 说，他形容这些场景”荒唐”，且”不能代表帮助动物这件事的真实含义”。他担心的是连带效应：观众看多了戏剧化的假救援，日后会怀疑真实的救助方式，进而影响这类项目的募款；而在极端天气事件愈发频繁的当下，这不是好消息。另一重风险是，不真实的内容可能诱导人们模仿危险举动，反而伤到动物。

中国内地的应对：AI 内容必须”亮明身份”

针对生成内容的溯源与标识，中国已有明确规则落地。国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布的《人工智能生成合成内容标识办法》自 2025 年 9 月 1 日起施行，配套的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》同步实施。

办法把标识分为两类：显式标识是文字、声音、图形等用户能直接看到听到的提示，比如图片上的显著提示、视频起始画面的标注；隐式标识则是嵌入文件元数据的技术信息，包含内容属性、服务提供者名称或编码、内容编号等，用于溯源与责任认定。提供内容传播服务的平台需要核验文件元数据中是否含有隐式标识，并在发布内容周边添加显著提示。办法同时规定，任何组织和个人不得恶意删除、篡改、伪造、隐匿标识。

规模上，中国互联网络信息中心《生成式人工智能应用发展报告（2025）》显示，截至 2025 年 6 月，中国生成式人工智能用户规模达 5.15 亿人。用户基数越大，标识与溯源机制的价值越高。

普通人可以怎么分辨

在技术手段普及之前，识别假图仍有一些可操作的方法：先看有没有”AI 生成”等提示标识，缺标漏标本身就是预警；再看细节，文字、招牌、手指、瓶身标签这类元素最容易出现扭曲乱码，Butler 正是靠糖浆瓶上的乱码认出破绽；还可以用以图搜图追溯原始出处，查看图片 EXIF 拍摄参数；遇到情绪冲击力强的求助信息，多方交叉验证发布者身份和官方通报，通常比盯着画面猜更有效。

回到宠物走失这类场景，一条更硬的准则是：任何”先付钱再还宠物”的要求都应视为高风险信号。真实的救助方通常愿意视频通话、约定当面确认，而不会先索要费用。

]]> AI 诈骗首次被单列：8.93 亿美元与 3 秒克隆的声音 https://mylogs.cn/ai-%e8%af%88%e9%aa%97%e9%a6%96%e6%ac%a1%e8%a2%ab%e5%8d%95%e5%88%97%ef%bc%9a8-93-%e4%ba%bf%e7%be%8e%e5%85%83%e4%b8%8e-3-%e7%a7%92%e5%85%8b%e9%9a%86%e7%9a%84%e5%a3%b0%e9%9f%b3/ Sun, 23 Aug 2026 16:55:20 +0000 https://mylogs.cn/ai-%e8%af%88%e9%aa%97%e9%a6%96%e6%ac%a1%e8%a2%ab%e5%8d%95%e5%88%97%ef%bc%9a8-93-%e4%ba%bf%e7%be%8e%e5%85%83%e4%b8%8e-3-%e7%a7%92%e5%85%8b%e9%9a%86%e7%9a%84%e5%a3%b0%e9%9f%b3/ 美国联邦调查局（FBI）在 2026 年 4 月 6 日发布的《2025 年互联网犯罪报告》中，第一次为人工智能单独设立了一个章节。这份报告已经连续发布近 25 年，此前从未出现过这样的分类调整。变化本身就是结论：借助生成式 AI 实施的诈骗，已经从零星案例变成了需要单独统计的常规犯罪类型。

AI 声音克隆诈骗示意图
示意图（AI 生成）

数字：22364 起投诉，近 8.93 亿美元损失

报告显示，FBI 下属的互联网犯罪投诉中心（IC3）在 2025 年共收到 1008597 起投诉，高于 2024 年的 859532 起，平均每天接近 3000 起。全年网络相关犯罪造成的报告损失接近 210 亿美元。

其中与人工智能相关的投诉为 22364 起，报告损失接近 8.93 亿美元。这个数字在整体规模中占比不高，但增长方向明确。IC3 在报告中写道，AI 生成的合成内容“越来越难以识别，也越来越容易制作”，这让犯罪者有机会对个人、企业和金融机构实施成功率更高的欺诈。

其他分类同样值得参照：加密货币相关投诉 181565 起，损失超过 110 亿美元；投资类欺诈占全部诈骗损失的近 49%；商务邮件欺诈（BEC）损失至少 30 亿美元；假冒技术支持损失 21 亿美元；情感与信任类诈骗损失 9.293 亿美元。年龄超过 60 岁的受害者报告损失约 77 亿美元，比 2024 年上升 37%。

FBI 刑事与网络分部行动主管何塞·佩雷斯（Jose A. Perez）在报告中表示：“对自己的网络安全、社交媒体足迹和电子交互保持警惕，从未像今天这样重要。”

三秒音频就够：声音不再是身份凭证

AI 诈骗中最具威胁性的形态是声音克隆。过去伪造一个人的声音需要大量录音和专业设备，如今从社交平台视频、语音留言或公开演讲中截取几秒音频就足够。有研究指出，仅用三秒录音生成的克隆语音，相似度可达到 85% 左右。

犯罪流程高度模板化：伪造一通紧急电话——绑架、被捕、车祸、突发疾病，用克隆的亲人声音打消对方的怀疑，再要求通过难以追回的渠道立刻转账，例如电汇、礼品卡、支付应用或加密货币。FBI 在 2026 年 6 月 2 日再次就此类假绑架电话发出专门提醒。

美国得克萨斯州休斯敦地区的一起案件展示了这套手法的效果。受害者黛博拉·德尔马斯特罗（Deborah Del Mastro）接到电话，对方称绑架了她的女儿，随后她听到女儿惊慌求救的声音，勒索金额为 2 万美元。她先电汇了 5000 美元，之后才确认女儿一直安全，电话里的声音由软件生成。她向当地电视台 KPRC 表示，这笔钱没能追回。

企业层面的风险更大。除了模仿家人，同一套技术模仿公司高管同样有效。2024 年，工程咨询公司奥雅纳（Arup）在一次伪造的视频会议中被骗走约 2500 万美元；更早的 2019 年，一家德国企业因一通伪造的高管电话损失约 24 万美元。任何依赖“听声音确认身份”的流程——电话核实付款、口头重置密码、语音批准转账——在语音可被秒级伪造之后，实际上已经不再具备验证效力。

FBI 的建议只有两个字：慢一步

FBI 把核心建议浓缩为一句口号：“Take a Beat”，意为停一拍再行动。抵抗对方制造的紧迫感，在交出钱款或个人信息之前先评估情况。

结合各方给出的具体做法，可以归纳为几条可立即执行的操作：

  • 挂断，用自己手机里存的号码回拨。真正的紧急情况经得住一次 30 秒的回拨核实，而诈骗方只能控制来电，控制不了对方的真实号码。
  • 提前和家人、同事约定一个只在紧急时使用的口令。克隆语音能复刻音色和语调，但无法知道一个从未被录下来的秘密。
  • 把语音从审批流程里去掉。付款确认和密码重置改用无法被伪造的渠道，例如回拨已登记号码或第二重验证因子。
  • 减少可被采集的素材。公开发布的视频、语音消息都可能成为训练素材，账号隐私设置值得重新检查一遍。
  • 遇到可疑情况立即联系银行或支付机构，并向当地公安机关报案。中国用户可通过国家反诈中心 App 举报可疑来电和链接，也建议开启该应用的来电预警功能。

值得注意的是，报告中的数字几乎必然低于真实规模。FBI 明确指出，很多受害者从未报案。这也解释了为什么监管机构强调的重点不是识别技术，而是流程：当合成内容的质量超过普通人的辨别能力时，唯一可靠的防线是核实机制，而不是判断力。

]]> 纹身能挡住 AI 换脸吗？专家：今天能，明天未必 https://mylogs.cn/tattoos-protect-ai-deepfake-videos/ Thu, 13 Aug 2026 08:38:01 +0000 https://mylogs.cn/tattoos-protect-ai-deepfake-videos/ 最近有个说法在社交平台上走红：身上有纹身，能在某种程度上挡住 AI 换脸。理由听起来很直观——当下的生成式视频还搞不定复杂的艺术细节，纹身越多，AI 在每一帧里「画错」的概率越高，伪造出来的视频也就越容易露馅。

纹身能挡住 AI 换脸吗？专家：今天能，明天未必
图片来源：Allure

一个走红的说法

短视频里，一位创作者举了这样的例子：AI 模型或许能给你套上半只袖子的纹身，但细节经不起推敲，「正是这些细节出卖了它，让人一眼看出并非本人」。对不少纹身爱好者来说，这像是一个意外的「技术红利」：既表达了自我，又顺手多了一层防伪。

专家：有点道理，但不全对

计算机视觉与数字取证专家、达特茅斯学院教授 Hany Farid 给出了更冷静的判断。他指出，AI 真正吃力的不是纹身本身，而是一切细节。「最简单的画面，它还原得最好。」换句话说，一件满是杂乱图案的衬衫，或许和满臂纹身一样能干扰 AI。更关键的是基数：美国只有约 22% 的人拥有超过一处纹身，意味着训练数据里「有纹身的人」本来就少得多。

麻省理工学院媒体实验室研究伦理与 AI 的研究生 Saetbyeol Leeyouk 也认同这一观察，但强调一个前提：讨论的只是「此刻」的能力。她的看法是，明天、下周、下个月，模型就会变好，「这件事迟早会被解决」。

为什么是「暂时」的

判断并非空穴来风。Farid 让大家回想 2023 年那段著名的「威尔·史密斯吃意大利面」换脸视频——画面诡异到简直像噩梦。可不到三年，就有网友生成了更新版本，只要不盯着眼睛看，几乎能当意大利面广告用。差距来自时间连贯性：新模型能一次性生成一小段视频，而非一帧帧拼凑，但单段时长仍被限制在约 10 到 15 秒，更长的视频只是把若干短片段拼接起来，纹身也就更容易在接缝处穿帮。

至于静态图片，生成模型早已足够成熟，纹身基本不再是障碍。

给普通人的提醒

结论很清晰：纹身或许能在今天给换脸增加一点难度，但把它当成长期防伪手段并不靠谱。与其指望皮肤上的图案，不如关注平台的水印、授权机制与内容溯源——那才是更可持续的防线。

来源：Allure（经 Google News 收录）

]]> Spotify 给 AI 歌手贴标，默认不再推荐 https://mylogs.cn/spotify-ai-persona-badge/ Tue, 11 Aug 2026 18:03:19 +0000 https://mylogs.cn/spotify-ai-persona-badge/ 一个新标签：AI Persona

全球最大的音乐流媒体平台 Spotify 在 8 月 11 日宣布，将给 AI 生成的虚拟艺人打上「AI Persona」标签。从 9 月中旬起，凡是身份可能由 AI 生成的艺人资料，会在艺人主页横幅与简介区、搜索结果，以及歌单中的曲目行上出现这一标识，明确告诉听众：这个艺人的身份可能是 AI 生成的，并不代表真实的人。

Spotify 给 AI 歌手贴标，默认不再推荐
图片来源：The Guardian

更关键的是默认规则：被标记为 AI Persona 的艺人，将不会被纳入任何编辑或算法推荐。也就是说，除非听众主动关注了某个 AI 虚拟艺人，否则在个性化推荐流里不会再看到它的歌。

两种标签，人工加 AI 双重把关

Spotify 允许艺人通过后台主动申报自己的资料代表一个 AI Persona。但平台明确表示，不会只靠自觉。对于名称与头像看上去像照片级 AI 生成身份的艺人，Spotify 的审核团队会主动介入，先从达到一定受众阈值的资料入手。

两条路径产生两种标识：艺人自行申报的，标为 AI Persona；由 Spotify 审查后认定的，标为「Likely AI Persona（疑似 AI 身份）」。点开标签，听众能看清属于哪一类。被平台打标的艺人会收到通知，并有机会自行申报或申诉。

Spotify 在公告中写道：「真正的艺人—乐迷连接，只能建立在信任与真实之上。在音乐里，这意味着听众需要能够相信，音乐背后的那位艺人，确如其自称。在生成式 AI 的时代，这一点比以往任何时候都重要。」

为什么动手：虚拟艺人在抢真实艺人的播放量

推出标签的直接动机，是把「深度伪造」式的虚拟艺人与真实表演者区分开，避免后者在流量上吃亏。

过去一年，Spotify 称其移除了 7500 万首垃圾音轨，而平台正经曲库规模为 1 亿首。AI 工具制造的海量仿冒音乐，正是垃圾音轨的重要来源。

已经有现成案例。Velvet Sundown 是一支 70 年代风格的美国摇滚「乐队」，月听众约 11.7 万，其资料把自己描述为「合成音乐项目」；在粉丝追问下，其社交账号才承认这是 AI 创作，介于人与机器之间。另一例是灵歌歌手 Sienna Rose，曾病毒式冲进平台 Top 50，月听众超过 50 万，却从未办过演出、也没发过任何视频，身份是否 AI 至今语焉不详。

同行在怎么做

Spotify 并非唯一出手的一方。Apple Music 在 2026 年 3 月推出了「AI Transparency Tags（AI 透明标签）」，但完全依赖厂牌与发行方自行申报，背后没有主动审查。YouTube Music 要求对拟真合成内容进行披露，却尚未建立可类比的标签体系。Deezer 则是少数真正扫描音频来识别 AI 生成内容的平台，而不只信任元数据。

对 Spotify 而言，标签本身只是透明化的一步；真正有约束力的是推荐降权——被发现藏匿身份的 AI 虚拟艺人，将失去平台最主要的发现入口。在 AI 音乐创作门槛越来越低的当下，这一刀，切在「被发现」的成本上。

来源：The Guardian（2026 年 8 月 11 日），综合 Spotify 官方公告

]]> 越用越反感：生成式 AI 的公众反弹正在见效 https://mylogs.cn/ai-slop-backlash-having-impact/ Tue, 11 Aug 2026 04:45:11 +0000 https://mylogs.cn/ai-slop-backlash-having-impact/ 生成式 AI 正在肉眼可见地渗入日常软件，但公众对它的耐心似乎正在耗尽。纽约大学数据新闻学教授 Meredith Broussard 的一句话被反复引用：「AI 革命已经发生了，但所有人都讨厌它。」一家近期发布的盖洛普民调给出了更硬的数字：在 18 至 29 岁群体中，近半数认为生成式 AI 带来的弊大于利——越熟悉，反而越反感。

越用越反感：生成式 AI 的公众反弹正在见效
图片来源：WIRED

平台先动手：举报与发现流门槛

反感正在变成产品侧的调整。领英（LinkedIn）上线了一个「看起来像 AI 垃圾内容」的举报按钮，让用户直接标记平台上的机器生成内容；Snapchat 宣布完全由 AI 生成的视频将不再进入其发现流的推荐；写作平台 Substack 则加入了 AI 检测工具，用来审核作者发布的内容。三家公司动作的时间点很近，像是对同一股情绪的同步回应。

这些改动并不等于封杀 AI。Snapchat 的规则针对的是推荐资格而非内容本身，用自带 AI 工具增强的真人创作仍可被推荐；Substack 的检测也只是辅助审核。真正的分歧在于：AI 是在辅助创作，还是彻底取代了创作过程。

「我从未同意过」：同意权之争

WIRED 服务专栏作者 Reece Rogers 在报道中把矛头指向一个更底层的问题——同意。许多人的不满在于：自己的网络互动数据被大规模抓取去训练模型，Instagram 在未告知的情况下给账号开了允许他人生成我的深度伪造的开关，谷歌把 AI 生成的答案硬塞进搜索结果顶部。功能是一个个被塞进常用软件的，而用户几乎没有参与决策。

Broussard 对 WIRED 说，同意权之所以重要，是因为它关联到女性、性少数、少数族裔在网络上长期被剥削和滥用的历史，科技公司从来对同意不敏感。塔夫茨大学研究科技与人类学的副教授 Nick Seaver 也指出，企业往往是先把功能铺开、看哪个能留下来，因为没人真正知道这东西到底要干嘛。

关掉的功能与街头的抗议

公众的反击并非只停留在抱怨。谷歌在 404 Media 报道后，几乎立刻撤回了让用户用生成式 AI 修改谷歌地球卫星图像的功能；Meta 在舆论和数百万播放量的批评视频压力下，三天后就关掉了 Instagram 的那项深度伪造工具。营销物料里的生成式 AI 也遇冷：麦当劳、可口可乐把 AI 视觉塞进广告后，引来大量负面反应，连本地小店用 AI 海报宣传活动时也会挨骂。

更上游的抵触转向了数据中心。AI 工具依赖的算力中心在许多社区拔地而起，《AI 骗局》（The AI Con）的合著者 Emily Bender 指出，数据中心是环境与经济损失的交汇点，正把不同政治立场的人拉到同一边，围绕数据中心的抗议近期出现了跨阵营联合。

在旧金山，即便是热衷工具的软件开发者，许多使用也是被动的。一名 Block 公司在裁员期间对员工说，如果工具真的好，大家自己就会用，自上而下的强制推行反而招来抵触。Broussard 提醒，面对资金雄厚的大公司，集体行动依然有用——公开压力确实能让一些不受欢迎的 AI 功能下线。

来源：WIRED | Reece Rogers | https://www.wired.com/story/the-ai-slop-backlash-is-actually-having-an-impact/

]]> 你刷到的图，正在偷偷改你的记忆 https://mylogs.cn/%e4%bd%a0%e5%88%b7%e5%88%b0%e7%9a%84%e5%9b%be%ef%bc%8c%e6%ad%a3%e5%9c%a8%e5%81%b7%e5%81%b7%e6%94%b9%e4%bd%a0%e7%9a%84%e8%ae%b0%e5%bf%86/ Mon, 03 Aug 2026 02:41:08 +0000 https://mylogs.cn/%e4%bd%a0%e5%88%b7%e5%88%b0%e7%9a%84%e5%9b%be%ef%bc%8c%e6%ad%a3%e5%9c%a8%e5%81%b7%e5%81%b7%e6%94%b9%e4%bd%a0%e7%9a%84%e8%ae%b0%e5%bf%86/ 你以为看穿一张假图只要多盯两秒？麻省理工的实验给了当头一棒：看过人工智能合成画面的人，凭空多出的“假记忆”是对照组的两倍。

你刷到的图，正在偷偷改你的记忆
图片来源：aiornot.us

关键发现就一句——人脑把“看到”默认当成“真的”，而人工智能图因为太像照片，反而会钻进你的记忆里安家。研究显示，2022年以来社媒上已流出约一百五十亿张人工智能假图，联网视觉内容里近七成疑似由它生成。

说白了，这不是你眼力差，是大脑“懒”。我们刷信息靠直觉快思考，假图只要符合预期就直接放行；等你想较真，记忆早被改写了。记忆研究权威洛夫特斯说过，逼真的假内容能让人坚信从没发生的事。我的判断是，以后“我亲眼所见”越来越不能作为证据，识图素养会变成每个人的刚需。

下次转发一张“劲爆图”前，先用“以图搜图”查下源头，或留意手部、文字、光影这些破绽。你被哪张假图唬过？说出来帮大家避坑。

来源：《华尔街日报》综合麻省理工等研究

]]> AI必须亮明身份：欧盟透明度新规8月2日生效 https://mylogs.cn/ai%e5%bf%85%e9%a1%bb%e4%ba%ae%e6%98%8e%e8%ba%ab%e4%bb%bd%ef%bc%9a%e6%ac%a7%e7%9b%9f%e9%80%8f%e6%98%8e%e5%ba%a6%e6%96%b0%e8%a7%848%e6%9c%882%e6%97%a5%e7%94%9f%e6%95%88/ https://mylogs.cn/ai%e5%bf%85%e9%a1%bb%e4%ba%ae%e6%98%8e%e8%ba%ab%e4%bb%bd%ef%bc%9a%e6%ac%a7%e7%9b%9f%e9%80%8f%e6%98%8e%e5%ba%a6%e6%96%b0%e8%a7%848%e6%9c%882%e6%97%a5%e7%94%9f%e6%95%88/#comments Fri, 31 Jul 2026 23:08:32 +0000 https://mylogs.cn/ai%e5%bf%85%e9%a1%bb%e4%ba%ae%e6%98%8e%e8%ba%ab%e4%bb%bd%ef%bc%9a%e6%ac%a7%e7%9b%9f%e9%80%8f%e6%98%8e%e5%ba%a6%e6%96%b0%e8%a7%848%e6%9c%882%e6%97%a5%e7%94%9f%e6%95%88/ 从8月2日起，和你聊天的人工智能，必须主动告诉你“我是AI”。欧盟委员会7月31日宣布，自当日起，欧盟委员会人工智能办公室将与各成员国主管部门共同执行《人工智能法》的相关条款，其中最受关注的一批AI透明度要求也正式生效。

AI必须亮明身份：欧盟透明度新规8月2日生效
图片来源：Wikimedia Commons (CC BY-SA 4.0)

三条新规：告知、标识、加水印

此次生效的核心，是《人工智能法》第50条规定的透明度义务，主要包含三层要求。

其一，聊天机器人、虚拟助手等被设计用来与人直接交互的AI系统，必须明确告知用户，对方是人工智能而非真人——除非从情境看这一点已经显而易见。其二，利用AI生成或篡改的深度伪造图片、视频和音频，必须清楚地标明其为人工合成或经过修改的内容。其三，由AI生成或编辑的内容还需嵌入机器可识别的标记（即所谓“水印”），以便被检测、识别和追踪；用于告知公众、涉及公共利益的AI生成文本，同样需要披露。

欧盟委员会表示，这些措施旨在减少欺骗和操纵行为，帮助公众作出更知情的判断，同时也为企业提供更明确的合规路径。

罚则严厉，且具有域外效力

新规的约束力不容小觑。违反相关义务的企业，最高可被处以1500万欧元或全球年营业额3%的罚款，两者取其高；若向监管方提供不实、不完整或具误导性的信息，最高可罚年营业额的1%。

同一天，欧盟委员会对通用人工智能模型提供者的执法权也全面生效。这些模型的提供方需要公布技术文档和版权合规政策、披露训练数据摘要；被认定存在系统性风险的模型，还需提交对抗性测试结果。

需要提醒的是，该法具有域外效力：只要产品投放到欧盟市场、或其输出被欧盟用户使用，即便是欧盟以外（包括美国）的公司，也同样受到约束。这意味着任何面向欧盟用户提供聊天机器人或生成式功能的企业，都需将“披露”作为产品的硬性要求，而非可选项。

分阶段落地，高风险条款推迟

《人工智能法》采取分阶段实施。该法已于2024年8月1日生效，禁止性条款自2025年2月2日起适用，通用AI模型的相关规则则从2025年8月2日开始施行。此次8月2日生效的透明度义务，是又一个关键节点。

不过并非所有条款都同步落地。针对已经在市面上销售的系统，机器可识别标记的要求设有过渡期，可延至2026年12月2日；而聊天机器人身份披露、深度伪造标识则立即执行，没有缓冲期。此外，通过“数字综合法案”，招聘、信贷、教育、生物识别等高风险AI系统的义务已被推迟——独立系统延至2027年12月2日，嵌入产品的系统延至2028年8月2日。对全球AI企业而言，如何在合规与创新之间找到平衡，正成为一道绕不开的必答题。

来源：36氪（央视新闻）、欧盟委员会

]]> https://mylogs.cn/ai%e5%bf%85%e9%a1%bb%e4%ba%ae%e6%98%8e%e8%ba%ab%e4%bb%bd%ef%bc%9a%e6%ac%a7%e7%9b%9f%e9%80%8f%e6%98%8e%e5%ba%a6%e6%96%b0%e8%a7%848%e6%9c%882%e6%97%a5%e7%94%9f%e6%95%88/feed/ 1 上线仅一天就撤回：谷歌地球的AI改图功能踩了什么雷 https://mylogs.cn/%e4%b8%8a%e7%ba%bf%e4%bb%85%e4%b8%80%e5%a4%a9%e5%b0%b1%e6%92%a4%e5%9b%9e%ef%bc%9a%e8%b0%b7%e6%ad%8c%e5%9c%b0%e7%90%83%e7%9a%84ai%e6%94%b9%e5%9b%be%e5%8a%9f%e8%83%bd%e8%b8%a9%e4%ba%86%e4%bb%80%e4%b9%88/ Fri, 31 Jul 2026 20:55:08 +0000 https://mylogs.cn/%e4%b8%8a%e7%ba%bf%e4%bb%85%e4%b8%80%e5%a4%a9%e5%b0%b1%e6%92%a4%e5%9b%9e%ef%bc%9a%e8%b0%b7%e6%ad%8c%e5%9c%b0%e7%90%83%e7%9a%84ai%e6%94%b9%e5%9b%be%e5%8a%9f%e8%83%bd%e8%b8%a9%e4%ba%86%e4%bb%80%e4%b9%88/ 谷歌为地球（Google Earth）推出的一项人工智能新功能，只存活了大约一天就被紧急撤下。这项功能允许用户用一句文字指令，直接对真实的卫星影像进行AI编辑和修改。上线首日引发外界对”伪造真实世界”的强烈担忧后，谷歌迅速宣布回滚。

上线仅一天就撤回：谷歌地球的AI改图功能踩了什么雷
图片来源：The Verge

一句提示词，就能篡改真实卫星图

据科技媒体The Verge报道，谷歌在周四上线了这项新能力，其背后调用的是谷歌的图像生成模型Nano Banana 2。用户只要在Google Earth里输入文字提示，就能对某个真实地点的卫星图或地表影像进行改写，效果几乎相当于凭空生成一张以假乱真的”真实世界深度伪造图”。

问题在于，卫星影像长期被外界视为客观、可信的地理证据。一旦任何人都能用自然语言随手改写这类画面，其潜在的误导风险不言而喻。有独立研究者在测试中，凭空在真实地理位置上添加了本不存在的建筑、设施和场景，用以说明这项功能可能被滥用于制造虚假信息。

水印为何拦不住风险

功能上线当天，谷歌方面最初回应称，通过Nano Banana 2在Google Earth中生成的图像都带有数字水印，公司也对”有害主题”的图像生成做了拦截。换句话说，谷歌认为水印加上内容过滤，足以控制风险。

然而，这套防线很快被证明并不牢靠。上述研究者演示称，他用Google Earth生成的一段视频，成功骗过了第三方AI检测工具Hive的识别；这意味着即便带着水印，被篡改的画面和视频依然可能在传播链条中被当成真实素材扩散。他还提到，在自己的测试里”没有任何提示词被拒绝、没有任何内容被弱化，系统也从未建议换一种说法再试”，也就是几乎没有有效的内容护栏。

谷歌：先下架，再补护栏

仅仅一天之后，谷歌改口宣布回滚该功能。官方表示：”我们知道人们格外信任Google Earth所呈现的可靠世界视图。我们看到地理信息专业人士把这项功能用于一系列有价值的用途，但也看到有人分享的生成图像疑似违反了我们的政策。因此，我们将在Google Earth中回滚这项功能，同时着手部署更强的防护措施。”

谷歌同时强调，这些被生成的图像并不会出现在其他用户看到的Google Earth主界面里，而且都被标注为AI生成。尽管如此，功能”朝生暮死”的经历依然说明：当强大的生成式AI直接嫁接到人们高度信任的地图与地理平台上时，仅靠水印和主题过滤远远不够，如何在开放能力与防止滥用之间取得平衡，仍是所有大厂绕不开的难题。

来源：The Verge

]]> 2026 年最全 AI 工具导航：文本、图像、视频、编程、办公一站收录（持续更新） https://mylogs.cn/ai-tools-2026/ Tue, 28 Jul 2026 11:08:21 +0000 https://mylogs.cn/ai-tools-2026/ 2026 年，AI 工具的数量和种类已经爆炸到让人选择困难的地步。本文按使用场景分类整理了当前主流 AI 工具，标注了免费/付费情况和使用建议，持续更新。

一、文本写作与对话

ChatGPT（OpenAI）

AI 对话工具的开创者。GPT-5 系列在多轮对话、长文本理解和推理能力上仍然顶级。2026 年新增 Presence 功能，支持主动任务执行和跨应用操作。

  • 免费版：GPT-5 Mini，基础对话和搜索
  • Plus（$20/月）：GPT-5，更大上下文，图片生成
  • Pro（$200/月）：GPT-5.6，无限使用，高级推理
  • 适用：通用对话、写作、编程辅助、研究分析

Claude（Anthropic）

以安全性和长上下文著称。Claude Opus 5 在代码生成和复杂推理方面表现出色，20 万 token 的上下文窗口适合处理超长文档。

  • 免费版：Claude Sonnet，基础功能
  • Pro（$20/月）：Claude Opus 5，优先访问
  • 适用：长文档分析、学术研究、代码审查

Google Gemini

Google 的全模态 AI 助手。Gemini 2.5 系列在搜索整合和多模态理解上有天然优势，深度嵌入 Google 生态（Gmail、Docs、YouTube）。2026 年推出 Gemini Spark 代理功能，可自动执行多步骤网络任务。

  • 免费版：Gemini 2.5 Flash
  • Advanced（$19.99/月 via Google One）：Gemini 2.5 Pro
  • 适用：Google 生态用户、多模态任务、网络搜索

二、国产大模型

DeepSeek

2025 年初爆火的开源模型，以极高的性价比震惊业界。DeepSeek-V3 和 R1 推理模型在数学和代码任务上表现突出，且完全免费。2026 年因内部管理问题暂停了新一轮融资。

  • 免费：网页版和 App 均免费使用
  • API：极低价格（约为 GPT 的 1/20）
  • 适用：编程、数学推理、中文对话、低成本 API 调用

Kimi（月之暗面）

国产长文本处理王者。Kimi K3 版本上线后因需求暴增，国家超算平台紧急推出包月套餐。擅长处理超长文档（20 万字+），在中文场景的阅读理解能力出色。

  • 基础功能免费
  • 高级版：包月套餐（通过国家超算平台）
  • 适用：长文档阅读、论文分析、合同审阅

通义千问（阿里巴巴）

阿里云出品，Qwen 系列开源模型在全球排行榜上稳居前列。2026 年 Qwen 3 模型在代码和数学能力上大幅提升，开源版本深受开发者欢迎。

  • 免费：网页和 App 端基础功能
  • API：按量付费，性价比高
  • 适用：企业办公、钉钉集成、电商场景

豆包（字节跳动）

字节旗下 AI 助手，与抖音、飞书深度整合。在创意写作、社交媒体内容生成方面有独特优势。App 端体验流畅，语音交互表现好。

  • 免费：基本功能
  • 适用：社交媒体内容创作、创意写作、语音助手

文心一言（百度）

百度出品，文心大模型 4.0 在中文理解、知识问答和搜索增强方面有深厚积累。2026 年百度智能云在大模型市场份额持续领先。

  • 免费：基础版
  • 专业版：按需付费
  • 适用：知识问答、搜索增强、企业 AI 应用

三、AI 图像生成

Midjourney

图像质量仍然是天花板级别的存在。V7 版本在写实风格和艺术风格上都达到了新的高度，是设计师和艺术创作者的首选。

  • Basic（$10/月）：200 张/月
  • Standard（$30/月）：无限生成
  • Pro（$60/月）：隐私模式 + 高速生成
  • 适用：艺术设计、概念图、商业视觉素材

DALL·E 3（OpenAI）

集成在 ChatGPT 中，指令跟随能力极强，能精确理解复杂文字描述。适合需要精确控制画面元素的场景。

  • 随 ChatGPT Plus/Pro 订阅使用
  • 适用：需要精确文字理解的图像生成

Stable Diffusion / Flux

开源图像生成模型的代表。Flux 由原 Stable Diffusion 团队打造，在文字渲染和构图质量上大幅超越前代。适合有技术能力的用户本地部署和自定义。

  • 免费开源，本地运行
  • 在线服务：Replicate、Hugging Face 等提供托管
  • 适用：自定义模型训练、批量生成、隐私敏感场景

四、AI 视频生成

Sora（OpenAI）

业界标杆级视频生成模型。2026 年 Sora 2 支持更长时长、更复杂的镜头运动和物理模拟。目前仍处于邀测阶段，仅对 Pro 用户开放。

  • ChatGPT Pro 用户可用（$200/月）
  • 适用：创意视频、概念演示、短视频制作

Runway Gen-4

专业级视频创作工具，提供精确的镜头控制和多模态编辑能力。Gen-4 在视频一致性和真实感上进步明显，是好莱坞级视频制作的实用工具。

  • 基础版免费（有限额度）
  • Standard（$15/月）
  • Unlimited（$95/月）
  • 适用：专业视频编辑、VFX、广告制作

可灵 Kling（快手）

快手的 AI 视频生成工具，在短视频和直播场景表现亮眼。Kling 2.0 支持 1080p 视频生成，人物一致性好，在中国市场具有很强的竞争力。

  • 基础功能免费
  • 会员制，按量付费
  • 适用：短视频创作、直播辅助、社交媒体内容

五、AI 编程工具

Cursor

目前最受欢迎的 AI 编程 IDE。基于 VS Code，深度整合了 Claude 和 GPT 模型，支持整项目级别的代码理解和重构。

  • 免费版：基础 AI 补全
  • Pro（$20/月）：高级模型，无限使用
  • 适用：全栈开发、代码重构、项目级 AI 辅助

GitHub Copilot

微软出品，与 GitHub 生态深度整合。Copilot X 在代码补全、测试生成和 PR 审查方面表现稳定。

  • 个人版（$10/月）
  • 商业版（$19/用户/月）
  • 适用：企业团队开发、GitHub 生态用户

Claude Code（Anthropic）

Anthropic 推出的命令行 AI 编程助手。2026 年新增 Terminal 集成和自动调试能力，在复杂代码推理方面表现出色。

  • Anthropic API 按量付费
  • 适用：命令行开发者、复杂算法实现、代码审查

Windsurf（Codeium）

新一代 AI IDE，主打「Flow」模式——AI 不仅能补全代码，还能理解你的开发意图并主动提出下一步操作。

  • 免费版：基础功能
  • Pro（$15/月）
  • 适用：快速原型开发、全栈应用构建

六、AI 办公与效率

Notion AI

集成在 Notion 中的 AI 助手，支持文档撰写、摘要、翻译、头脑风暴等功能。2026 年新增数据库 AI 查询和自动化工作流。

  • $10/成员/月（Add-on）
  • 适用：团队文档协作、知识管理、项目规划

Microsoft 365 Copilot

微软办公套件的 AI 增强。在 Word、Excel、PowerPoint、Teams 中深度集成，2026 年新增自研模型替代部分 OpenAI 依赖，成本大幅降低。

  • $30/用户/月（企业）
  • 适用：企业办公、数据分析、会议记录

Gamma

AI 驱动的演示文稿和文档生成工具。输入一句话即可生成精美 PPT，支持多种模板和实时协作。

  • 免费版：有限额度
  • Plus（$10/月）
  • 适用：快速制作 PPT、商业文档、产品介绍

七、AI 音频与音乐

Suno

AI 音乐生成领域的领跑者。Suno V5 支持更长的歌曲、更细腻的情感表达和多种音乐风格。2026 年新增人声定制功能。

  • 免费版：每日 5 首
  • Pro（$10/月）：500 首 + 商用授权
  • 适用：背景音乐、内容创作配乐、音乐灵感

ElevenLabs

最逼真的 AI 语音合成工具。支持 29 种语言，声音克隆精度极高，几乎无法分辨人声与 AI 的区别。

  • 免费版：10 分钟/月
  • Starter（$5/月）：30 分钟
  • Pro（$22/月）：500 分钟
  • 适用：有声书、播客、视频配音、多语言内容

八、AI 搜索引擎

Perplexity

AI 原生搜索引擎，每个回答都附带引用来源。2026 年 Pro Search 功能支持多轮深度研究和自动报告生成。

  • 免费版：基础搜索
  • Pro（$20/月）：深度搜索、文件分析
  • 适用：学术研究、事实核查、市场调研

秘塔 AI 搜索

国产 AI 搜索引擎，在中文信息的检索和整理上表现突出。支持学术搜索、文库搜索和深度研究模式。

  • 免费使用
  • 适用：中文资料检索、学术研究、行业分析

工具选择建议

  1. 预算有限的个人用户：DeepSeek（免费对话）+ Kimi（长文档）+ Canva/ChatGPT 免费版（图像）+ Suno 免费版（音乐）
  2. 程序员：Cursor Pro + Claude Code + GitHub Copilot，三件套覆盖 IDE 内补全、命令行开发和代码审查
  3. 内容创作者：ChatGPT Plus（写作+图像）+ Runway（视频）+ ElevenLabs（配音），月均约 $50 覆盖主要需求
  4. 企业团队：Microsoft 365 Copilot + Notion AI + 通义千问/文心一言 API，按场景组合使用
  5. 设计师：Midjourney + Photoshop AI（Adobe Firefly）+ Flux（本地部署），覆盖从灵感到成品的全流程

最后更新：2026 年 7 月 28 日。AI 工具更新极快，本文会定期修订。如果你发现信息过时或有遗漏的优秀工具，欢迎留言。

]]>