月之暗面在 7 月发布的 Kimi K3，总参数 2.8 万亿、每个词元激活约 1040 亿，走的是把视觉从预训练阶段就揉进主模型的路子，还从零训练了约 4 亿参数的视觉编码器 MoonViT-V2，不再借用现成的图文对比预训练权重。效果很直接：K3 发布后以 1679 分登上 Arena 前端代码榜首，这个榜单由用户盲选模型生成的可交互网页排名，看的不只是代码能不能跑，还包括页面最终长什么样。浏览器开发平台 Puter 在测试页里埋了 5 处视觉偏差，K3 对照目标页和运行页截图全部找出，没有误报。月之暗面把这种”写完代码看一眼页面再改”的循环叫作视觉在环。

几周后 DeepSeek 给了另一种答案。V4-Flash 正式版总参数 2840 亿、每个词元激活 130 亿，分别只有 K3 的十分之一和八分之一，架构和参数规模都没动，全部力气花在后训练上，在考察网页开发和多轮工具操作的 Arena 网页开发榜上一度冲到 1577 分。它证明了：不加视觉、不扩规模，光靠后训练一样能把编程能力顶上去。

说白了，两家争的从来不是”多模态该不该做”。DeepSeek 创始人梁文锋早就说过”多模态最终还是要做的”，分歧只在于什么时候做、愿意为此让出多少模型容量、数据和算力。多位业内人士的看法也一致：编程能力才是上牌桌的门槛。有意思的是，阿里刚发布的 Qwen3.8-Max 站到了和 K3 相近的一边——2.4 万亿总参数、激活 950 亿，视觉、编程、协作一起扛。

对普通用户，这个分岔的现实意义很具体：如果你常截图丢给模型改页面、做幻灯片，优先选原生带视觉的；如果只写代码、处理文档，小而便宜的纯文本模型性价比明显更高。你平时给模型喂图多，还是喂字多？

来源：36氪·智能涌现《Kimi K3与DeepSeek V4之间，隔着原生多模态的时间差》，作者 李炤锋，编辑 张雨忻

三位工程师讲了三招。第一招，把模型用来记住上下文的「键值缓存」从 16 位精度压到 8 位，Kimi K2.6 能同时装下的上下文量从约 68.6 万词元翻到约 137 万。反常识的地方在这儿：单个请求反而更慢了（每秒 137 个词元降到 125），可同时能处理的请求数从 32 个上限顶到 64 个，峰值吞吐比原来高出 41%，每词元成本降约三成。第二招，把 GLM 5.2 的权重从 8 位浮点压成 4 位整数，模型文件从 705GB 缩到 421GB，单张显卡占用从约 88GB 降到 52GB，解码速度不降反升 55%。

说白了，这是拿「单个用户慢一点」换「同时能服务的人多一倍」——云厂商算的是总账，不是单笔账。而两项常用测评的分数几乎没掉（94.24 对 94.09、89.11 对 89.04），说明这笔账划得来。第三招则是给共享缓存加了一层校验，防止上百个请求读串页，代价不到 1% 的吞吐。

有意思的是，中国开源模型如今成了海外云厂商眼里「最难伺候、也最值得下功夫」的一类。如果要接一个大模型进自己的项目，你会先看效果还是先看单价？

来源：Cloudflare 官方博客《Smaller, faster, safer: running Kimi and GLM at scale》，作者 Alex Reneau、Kevin Flansburg、Chi McIsaac，2026 年 8 月 3 日

模型太大，主流显卡装不下

Kimi K3 于 7 月 16 日正式发布、7 月 27 日开放完整模型权重，是迄今全球参数规模最大的开源模型：总参数 2.8 万亿，采用混合专家（MoE）架构，每次推理实际激活约 1040 亿参数。专家总数为 896 个（另有 2 个共享专家），每次选择其中 16 个参与计算，上下文窗口为 100 万 token，原生支持视觉输入。模型基于月之暗面自研的 KDA（Kimi Delta Attention）混合线性注意力机制与注意力残差（AttnRes）技术构建。

模型权重约 1.5TB，未分配 KV 缓存就已经超过 1.5TB 显存要求。即便是拥有 8 块 B200 的节点（每块 192GB）也无法装下完整的 K3 与百万级 token 的 KV 缓存。剩下的选择是：要么升级到显存更大的 B300（每块 288GB），要么把两个 B200 节点串起来用张量并行（TP16）跑。

另一条路则是 AMD MI355X——单卡同样配备 288GB 显存，与 B300 一致，而每 GPU 的均价只有 B300 的约 1/2.4、B200 的约 1/1.7。硬件规格相近，价格便宜得多，听上去很美。瓶颈在软件：AMD 生态的算子优化普遍慢一拍，推理框架对新硬件的零日支持也常常慢人一步，这正是 Wafer 团队想要验证的地方。

实测数据：便宜，而且更快

Wafer 在 8 块 MI355X 的节点（TP8）、两台 8 块 B200 的节点（TP16）、单台 8 块 B300 的节点（TP8+DCP8）三套配置上跑了同一组基准：1024 token 输入、400 token 输出。

单流解码速度方面，MI355X 为 118 tok/s，B200 节点为 90 tok/s（这是 16 块 GPU 跨节点的总量，平摊到单机约为 249 tok/s 总量中更难直接拿来对比的单流表现），B300 节点为 172 tok/s。MI355X 的单流解码速度是 B200 节点的 1.3 倍以上，仅落后 B300 约 45%。

峰值聚合吞吐方面，MI355X 节点为 952 tok/s，B200 节点为 498 tok/s（双节点 16 块 GPU 加起来的总量），B300 节点为 1568 tok/s。换算到每块 GPU：MI355X 为 119 tok/s，B200 约 31 tok/s，B300 为 196 tok/s——MI355X 是 B200 的 3.8 倍。

按 B200 4.25 美元、B300 6 美元、MI355X 2.5 美元每 GPU 小时的价格计算，每美元每秒吞吐的对比如下：MI355X 为 48 tok/s，B300 为 33 tok/s，B200 仅 7 tok/s。MI355X 的每美元吞吐分别是 B300 的 1.45 倍、B200 的约 6.9 倍。

需要为 B200 节点说句公道话：它的单流数据被跨节点 all-reduce 拖了后腿（用的是 RoCE v2 网络，约 195 Gb/s）——这是三套配置里唯一跨节点的方案，K3 的权重加 1M token 的 KV 缓存确实塞不进单台 8 块 192GB 显卡的服务器。但反过来也说明，K3 这种体量的模型正好让主打大显存的 MI355X 找到了一个对 B200 有实际意义的优势点。

让 MI355X 跑起来的两个补丁

Kimi K3 开箱即可在 AMD 上跑起来，但要拿到上面的峰值数字，还需要两个补丁。

第一个补丁在投机解码上。K3 没有内置任何草稿张量，既没有 MTP，也没有 EAGLE，唯一的投机路径是外部块扩散：RadixArk 出品的 Kimi-K3-DSpark。在 CUDA 上直接就能跑；在 ROCm 上，第一个真实请求就把调度器打挂了，错误是 `NameError: name ‘top_k_renorm_prob’ is not defined`。原因是 sglang 的接受采样验证器有一条走 `torch.topk` 的稀疏路径，需要先调用 `top_k_renorm_prob` 函数；ROCm 构建里只挂了 Triton top-p 算子的别名，没把这个 top-k renorm 函数定义出来，于是请求一落到稀疏路径就立刻崩。

修法只需要一段 PyTorch 函数：拿到概率向量，保留 top-k 项、把其他位置置零、再做一次缩放。sort、masked_fill、divide 三步搞定，加进 sglang 的 ROCm 采样分支，效果与 CUDA 路径上来自 `sgl_kernel` 的原生实现完全一致。这个小改动让单流性能提升约 2.2 倍，中等负载下单流提升约 1.7 倍，峰值聚合吞吐提升 18%。更重要的是，峰值吞吐对应的并发从 24 提到了 64。

第二个补丁在 prefill 阶段。Wafer 团队提醒，业内谈模型性能时往往只盯着解码 tok/s，但用户真正感受到的是首 token 时延（TTFT），而 MI355X 在这里偏弱。同样的 172k token 冷启动 prefill，MI355X 需要约 51 秒，B300 只需约 23 秒。

差距几乎全部来自一颗算子。K3 在 ROCm 上回退到了速度一般的 Triton 通用注意力实现，因为 AITER 的 MLA prefill 高速内核加载失败。表面看是缺内核，实际是 shape 不匹配：K3 在 TP8 下每个 rank 的注意力头数是 12，而 AITER 的 MLA 路径只支持 4、8 或 16 的倍数。修法是给头数从 12 零填充到 16，跑完高速内核后再从输出里取出实际的 12 个头。结果是，同样 172k 的冷启动 prefill，AITER MLA prefill 稳态速度约 13k tok/s，Triton 兜底只有 4k-7k tok/s，prefill 整体提速约 2 至 3 倍。

这次没有写自定义内核

Wafer 的结论是：在 MI355X 上拿到最佳每美元吞吐基本是开箱即用，除了两个预期的框架级 bug，没有比 GLM5.2 时代更糟，甚至完全不需要写自定义内核。

他们由此判断，SOTA（业界最优性能）在 AMD 上已经指日可待，CUDA 的护城河正在被蚕食。

补充月之暗面官方公布的成绩：Kimi K3 在大模型编码评估系统 Frontend Code Arena 榜单上以 1679 分登顶，超过 Claude Fable 5 和 GPT-5.6 Sol 等闭源模型，是开源模型首次在该榜单夺冠；BrowseComp 测试得分 91.2%，高于 GPT-5.6 Sol 的 90.4% 和 Claude Fable 5 的 88.0%，单任务成本 2.03 美元，约为 GPT-5.6 Sol 的一半。API 官方定价为：缓存命中 2 元/百万 token、未命中输入 20 元/百万 token、输出 100 元/百万 token，Mooncake 分离式推理架构使编程场景的缓存命中率超过 90%。

来源：Wafer Blog《Is memory the moat?》原文（2026 年 7 月）；月之暗面官方博客《Kimi K3: Open Frontier Intelligence》及官方模型卡。

更能说明热度的是平台的临场反应。据《科创板日报》报道，Kimi K3 上线后，API 请求量远超超算互联网平台的预期。为了满足不同层次用户的需求，平台在原有按量计费的基础上，紧急推出了「Token Plan」包月订阅模式，采用精细化积分计费，并兼容主流终端与 AI 编程工具。一款开源模型逼得国家级算力平台连夜加推套餐，这样的场面并不多见。

全球最大开源模型，全链条开放

Kimi K3 的分量确实够重。它采用混合专家（MoE）架构，总参数量达到 2.8 万亿，约为前代 K2.5 的 3 倍，是目前全球参数规模最大的开源大模型。本次开源采用修改版 MIT 许可证，覆盖模型权重、技术报告，以及支撑 K3 训练的三项底层基础设施技术：MoonEP、FlashKDA 和 AgentEnv。

这三项技术是 K3 在算力受限条件下实现高效训练的核心支撑。按官方介绍，MoonEP 是专为超大规模细粒度 MoE 打造的高性能通信库；FlashKDA 是 Kimi Delta 注意力机制的高性能算子实现，在英伟达 H20 芯片上预填充速度较基线提升 1.72 至 2.22 倍；AgentEnv 则是联合 KVCache.ai 开发的智能体沙箱系统，支持环境快照、恢复与分叉，用于大规模多智能体并行训练。

在架构层面，K3 结合 Stable LatentMoE 框架，可以在 896 个专家中高效激活 16 个，再加上训练方法和数据配方的优化，整体规模化训练效率相比 K2 提升约 2.5 倍。

半小时登顶，产业链「零日适配」

开源消息放出后，全球开发者社区的反应相当激烈。Hugging Face 首席执行官 Clem Delangue 公开表示，Kimi K3 上线仅 30 分钟便收获超过 4000 个点赞，登顶平台趋势榜榜首，创下 Hugging Face 成立以来最快的发布增长纪录；上线前半小时，已有近 3700 名开发者在排队等待下载。

产业链的跟进速度同样罕见。中国市场方面，华为昇腾 CANN 宣布昇腾 950 全系列、Atlas A3 产品完成 Kimi K3 部署适配；阿里云真武 M890 超节点实例实现首日适配，千问 AI 平台与阿里云百炼后续也将上线 Kimi K3 的 API。海外方面，Nebius、Baseten、Fireworks 等主流 AI 基础设施厂商均宣布首日完成适配，Nebius 更是评价 Kimi K3 为「首个达到前沿性能水平的开放权重模型」。

国家级算力平台入场意味着什么

国家超算互联网此次的快速跟进，对开发者是实打实的利好。此前想跑通一个万亿级参数模型，要么自建昂贵的 GPU 集群，要么依赖海外云服务；现在通过国家级算力平台，下载、部署、API 调用一站式打通，新推出的包月订阅还让中小团队能以更可控的成本用上顶级开源模型。

对月之暗面而言，这也是商业化提速的一环。该公司总裁张予彤此前披露，K3 发布后企业年度经常性收入（ARR）实现数倍增长，6 月中旬已突破 3 亿美元；其新一轮融资也已启动，投前估值涨至 315 亿美元。开源模型、国家算力、云厂商三方合流，Kimi K3 的这波热度，恐怕还要持续一段时间。

来源：36氪《超算互联网AI社区上线Kimi K3相关模型及API调用服务》、科创板日报、每日经济新闻

2.8万亿参数背后的技术账

Kimi K3 采用混合专家（MoE）架构，总参数量高达 2.8 万亿，内置 896 个路由专家，每个 token 仅激活其中 16 个。这意味着虽然参数规模惊人，但单次推理的实际计算量只是总参数的一小部分，兼顾了规模与效率。

模型的另外几项核心规格同样抢眼：上下文窗口达到 100 万 token（精确值为 1,048,576），可以直接处理整个代码库或超长文档；原生支持视觉能力，文本、图片、视频输入共用同一个模型，无需外挂视觉适配器。

支撑这些能力的是两项架构创新——Kimi Delta Attention（KDA）混合线性注意力和 Attention Residuals（注意力残差）。官方技术报告显示，与上一代 K2 相比，K3 的参数规模扩大约 3 倍，整体扩展效率反而提升了约 2.5 倍。

除模型权重外，月之暗面还同步开源了三项训练基础设施：面向超大规模 MoE 的高性能通信库 MoonEP、KDA 高性能算子 FlashKDA（在英伟达 H20 上预填充速度较基线提升 1.72 至 2.22 倍），以及与 KVCache.ai 合作开发的智能体沙箱系统 AgentEnv。

海外平台为何抢着上架

Telnyx 在发布说明中列出了接入 Kimi K3 的理由：可配置的推理强度（低、高、最大三档）、函数调用与 JSON 结构化输出、默认开启的提示词前缀缓存——这些都是构建智能体应用的关键能力。在 Telnyx 平台上，K3 与 Kimi K2.6、GLM-5.2-FP8、MiniMax M3 等模型并列可选。

Telnyx 还给出了一个耐人寻味的判断：AI 行业的竞争优势，正在从「谁能造出最聪明的模型」转向「谁掌握决定每个请求跑在哪里的基础设施」，而 K3 的出现恰恰说明，模型侧的问题正在被开源力量解决。该公司认为，K3 在编程、推理和智能体任务的基准测试中已能与海外头部闭源模型正面竞争，「开源与前沿实验室的差距没有想象中大，某些场景甚至已经追平」。

生态连锁反应已经出现

开源发布后，产业链反应迅速：阿里云千问平台宣布上线 K3；华为昇腾完成「零日适配」，这是首个在中国自研芯片上跑通的开放 3 万亿级模型。投行也给出了评价——摩根士丹利称，Kimi K3 证明中国大模型在规模、性能、定价三个层面实现了全方位追赶；高盛则认为，中国开源模型的智能水平已达到全球大规模普及的临界点。

不过，「开源」不等于「人人可用」。2.8 万亿参数的体量意味着本地部署门槛极高，仅加载模型就需要至少 10 张 GB300 级别的 GPU。也正因如此，K3 上线后不久便因算力紧张暂停了新用户订阅——对绝大多数开发者而言，通过云平台调用 API 仍是现实的选择，这也解释了海外推理平台为何急于第一时间上架。

来源：Telnyx 官方发布说明、Hacker News、Pandaily、腾讯新闻

单是性能表现就已经足够让业界侧目，而月之暗面接下来的动作更耐人寻味：免费开放模型权重，并且明确瞄准海外开发者。这让美国 AI 公司开始认真思考一个问题——当越来越强的开放模型不断入场，闭源模式还能继续占据主导地位吗？

「开放权重」不等于「开源」

需要先厘清一个概念：Kimi K3 这类开放权重（open-weight）模型，并不是传统意义上的「开源」。在软件行业，开源有明确定义——源代码公开，可自由使用、修改和再分发。而 AI 系统要复杂得多，目前极少有模型达到这个标准。多数公司公开的只是「模型权重」，也就是 AI 在训练过程中学到的数值参数，训练数据、代码、模型架构和配置方法等关键部分仍然保密，使用许可上通常也有诸多限制。

这意味着开放权重模型无法像真正的开源软件那样从零复刻，但它提供的能力和灵活性，已经足够让开发者干很多事：检查模型如何运作、在自有基础设施上本地部署、深度定制，以及在不依赖单一供应商的前提下构建新产品——而且往往便宜得多。

免费送出权重，钱从哪儿赚？

花巨资训练一个模型，然后把最值钱的部分免费送出去，这门生意怎么算得过来？

福特汉姆大学法学院教授 Chinmayi Sharma 一语道破：「一套免费的权重，不等于一项免费的 AI 服务。」公司可以送出模型权重，然后在技术栈的其他环节赚钱——运行模型仍然需要算力基础设施、工程能力、安全保障、维护和技术支持，这些都可以通过托管服务等方式收费。对某些公司而言，回报还可能来得更间接：比如带动云计算服务或高端芯片的需求。

开放本身也是一种争夺竞争优势的策略。公开模型权重能吸引更多公司和开发者使用，进而催生围绕它的整套工具和基础设施生态。时间一长，这个模型就可能成为「事实标准」。乔治城大学安全与新兴技术中心高级研究分析师 Kyle Miller 举了阿里巴巴通义千问（Qwen）系列开放权重模型的例子——它已经深深嵌入行业的各个角落，展示了开放系统的渗透力。

美国巨头的两难

这给美国 AI 巨头出了个难题：如果一代开发者和工具都围绕 Kimi K3 这样的开放模型构建，行业重心就可能从 Gemini、Claude、ChatGPT 这些专有平台上移开。开放权重模型历来是专有系统的低成本替代品，而且在美国实验室不断收紧访问权限、给最新模型加上更严格护栏的当下，它们给了开发者更多自由。已有迹象显示，一些美国公司正在转向更便宜的中国模型。

压力也在美国科技行业内部发酵。此前有消息称美国可能因 Kimi K3 而限制开放权重 AI 的获取，随即引发科技界强烈反弹：包括 IBM、微软、Meta、英伟达、Perplexity 和 Palantir 在内的 25 家科技公司联名发布公开信，呼吁政策制定者避免「过早设限」，称开放权重模型对保持美国 AI 领先地位至关重要，能防止这项技术的力量和红利「集中在少数人手中」。值得注意的是，谷歌、OpenAI 和 Anthropic 均未出现在首批签名名单上。

本周一，英伟达、微软、SpaceX 等一批大型科技公司再次发声，呼吁美国加大对开放权重模型的支持。谷歌和 OpenAI 随后也表态反对仓促限制开放模型，但都没有加入周一的倡议；Anthropic 则两边都没有支持。

闭源巨头会让步多少？

Miller 认为长期走向仍是「未知数」。美国公司可能推出更强的自家开放权重模型——事实上，来自中国同行的压力正是 OpenAI 去年发布开放权重模型 GPT-OSS 的部分原因，谷歌的 Gemma 系列在一定程度上也被视为对同类竞争的回应。但这两者的能力都远不及各自的旗舰专有模型。「像 Anthropic 这样的公司，估计不会走这条路。」Miller 说。

Sharma 则给出了另一种预判：美国公司面临的问题会越来越具体——「需要开放多少能力，才能阻止中国模型成为开放生态的默认平台？」更可能的结果是一种「组合策略」：把最强的模型留作专有，同时不断放出能力越来越强的开放权重版本，以维持开发者的采用率和生态影响力。

Kimi K3 能否赢得海外开发者，还需要时间验证。但可以确定的是，它绝不会是最后一个尝试打开国际市场的中国开放模型。摆在美国大型 AI 公司面前的问题，已经不只是如何保持领先，而是闭源 AI 还能不能——或者说该不该——继续走下去。

来源：The Verge（原文作者：Robert Hart）

性能逼近全球最强模型

Kimi K3 的综合能力在多项基准测试中表现突出。在 GDPval-AA v2 测试中——该测试覆盖 44 个职业和 9 大行业的真实任务——Kimi K3 以 1687 分排名第三，仅次于 Anthropic 的 Claude Fable 5 Max（1815 分）和 OpenAI 的 GPT-5.6 Sol Max（1747.8 分）。

在长时程知识工作的专项测试 AA-Briefcase 中，K3 甚至以 1527 分超越了 GPT-5.6 Sol Max（1495 分），跃居第二。更令人瞩目的是，在需要长时程高难度信息检索的 BrowseComp 基准测试中，K3 取得了 91.2 分（满分 100 分）的最优成绩。

在真实任务自动化测试中，Kimi K3 在 8 项基准测试中有 4 项排名第一，包括 Automation Bench、SpreadsheetBench 2 和 BrowseComp 等。

值得注意的是，UC Berkeley 开发的 AI 评测平台 Arena 发布的数据显示，K3 在前端代码竞技榜中以 1679 分登顶，超越了 Claude Fable 5。

技术架构突破

Kimi K3 采用了月之暗面内部自研的两项关键架构创新：Kimi Delta Attention（一种混合线性注意力机制）和 Attention Residuals（残差连接的替代方案，能在模型规模扩大时提供更稳定的性能提升）。这两项技术此前都已在 GitHub 上作为开源研究发布。

模型拥有 100 万 token 的上下文窗口、原生视觉理解能力，以及始终开启的推理模式（”thinking mode”）。在百万 token 场景下，解码速度最高可提升 6.3 倍。

API 和定价

Kimi K3 的 API 兼容 OpenAI SDK，降低了开发者的集成门槛。定价方面，输入 tokens 为每百万 3 美元，输出 tokens 为每百万 15 美元，缓存输入 tokens 仅为每百万 0.30 美元——性能接近顶级闭源模型，但定价仅为 Anthropic Opus 4.8 的一半左右。

权重计划于 2026 年 7 月 27 日公开发布。用户也可直接访问 kimi.com 免费体验这款模型。

行业意义

月之暗面的 K3 发布时机恰逢 2026 年世界人工智能大会在上海举办。此前，中国开源模型通常被认为落后于美国顶尖模型半年以上。K3 的表现正在挑战这一认知。

开源模型社区的普遍反应是：”开源模型不再落后西方闭源模型六个月了。”这意味着开源 AI 运动正在经历一个转折点——在模型能力接近的情况下，开源模型的可定制性和低成本优势将更加突出。

相关新闻：Anthropic 15 亿美元版权和解获法院批准

2026 年 7 月 20 日，旧金山联邦法院正式批准了 AI 公司 Anthropic 与作者群体之间的 15 亿美元版权集体诉讼和解协议。这是美国版权诉讼史上最大的和解金额。

该诉讼指控 Anthropic 在训练 Claude 模型时，未经授权使用了约 48 万部版权作品。此前主审法官 William Alsup 已裁定，用版权作品训练 AI 模型属于”合理使用”，但 Anthropic 从盗版网站下载并存储数百万册图书的行为本身违法。Anthropic 最终选择和解，避免了陪审团审判可能开出的更高罚单。

根据协议，95% 以上的权利人已认领赔偿，每部作品平均获赔约 3000 美元。

信息来源：MIT Technology Review、Reuters、VentureBeat、钛媒体