六大核心组件

此次开源的核心组件包括：DeepGEMM 用于加速通用矩阵运算；DeepEP 提供高效的大规模跨设备通信；TileKernels 提供常规向量计算与内存访问算子；FlashMLA 提供稀疏注意力算子，可提升长上下文处理效率；DeepSelect 则实现高效的数据筛选。DeepSeek 表示，在多项关键测试用例中，上述组件的计算与通信性能已接近硬件上限。

与华为深度协作

DeepSeek 透露，在面向昇腾平台的研发过程中，华为团队给予了大力支持，双方紧密合作，共同推进基于昇腾 950 的 128 卡超节点方案，并对计算与通信进行了深度优化。

在编程工具层面，TileLang 旨在让开发者更便捷地编写算子——即模型运行时执行矩阵运算、数据处理等具体计算的程序。DeepSeek 称，相比用 CUDA 编程，TileLang 可以简化代码、提高开发效率，同时保留针对芯片特性进行优化的能力。这条路线先在英伟达平台上得到验证，目前已用于 DeepSeek V4 系列模型训练中的大部分算子；昇腾版本则把底层 Ascend C 指令封装起来，让开发者通过更高层语言编写程序，且每一个 TileLang 算子都已有对应的昇腾高性能实现。

实测性能数据

FlashMLA 的项目文档给出了一组具体结果：在昇腾 950 上，处理输入上下文的预填充阶段，稀疏注意力算子最高达到硬件理论峰值的 95%；在逐步生成内容的解码阶段，最高达到 83%。这两项均为项目方公布的测试成绩。

在分布式通信方面，DeepEP 昇腾版负责大规模跨设备通信。对于混合专家模型，不同数据会被分发给不同专家网络处理，计算结果再汇合；DeepEP 提供这类分发与汇合操作，并将公开接口与英伟达版本对齐，方便开发者沿用已有的调用方式。

分析认为，DeepSeek 将自研基础设施组件同时开源到英伟达与昇腾两大平台，有助于降低模型适配国产算力芯片的门槛，推动开放软件生态的建设。

云栖大会定调：AI 基建成阿里长期战略

2026 云栖大会于 9 月 22 日上午在浙江杭州开幕。阿里巴巴集团 CEO 吴泳铭在会上表示，当前客户对人工智能的需求非常强劲，阿里将全力投入 AI 基础设施建设，目标到 2032 年，阿里云运营的全球数据中心规模超过 20GW。

本届云栖大会上，英伟达位列巅峰合作伙伴，是最高等级合作伙伴；英特尔、AMD 分获钻石、红宝石合作伙伴。阿里巴巴集团 CEO 吴泳铭、阿里千问大模型（LLM）项目负责人刘大一恒等将在大会上发表主题演讲。云计算、人工智能、智能制造等领域的国内外头部企业，以及多家算力、大模型产业链厂商集中亮相，算力生态合作成为本次大会的一大看点。

机器思考将承担 99.9% 的思考工作

吴泳铭在演讲中给出了一个判断：今天机器动力已经承担了 99.9% 的物理工作，未来人类的思考总量还会继续增长，但机器思考将以更快的速度扩张，预期将会承担 99.9% 的思考工作。

他认为，顶级思考将从奢侈品变成可规模化供给的商品，每个细分领域都可以拥有上百万量级的 AI 科学家和专家，这将给人类社会带来巨大改变。吴泳铭表示，AI 模型、AI 芯片和 AI 云是机器智能时代的三大基石，阿里巴巴将坚定投入这三项基础设施建设，这是阿里的长期战略选择。

全栈 AI 体系与万亿参数模型

阿里巴巴集团董事会主席蔡崇信在会上表示，AI 发展已迈入全新阶段，正持续从前沿技术突破转向真实场景的规模化价值创造。目前 AI 已深度赋能自动驾驶、具身智能、世界模型等核心领域，有效赋能千行百业、提升产业生产力。

蔡崇信透露，阿里巴巴正持续坚定加码全栈 AI 体系建设，搭建起覆盖芯片、云模型、模型服务、智能体应用的五层协同完整架构。该体系可形成从底层技术研发到全域产业落地的完整闭环，高效推动各项 AI 技术成果转化为实体产业进步。

此外，阿里巴巴计划训练一款参数量为 5 万亿至 10 万亿的人工智能模型。

算力：从万卡走向十万卡

按照京东云公布的信息，国产万卡集群已经落地，10 万卡集群进入规划建设阶段。这一规模意味着国产 GPU 首次进入头部 AI 云企业的十万卡级核心智算集群行列。

从政策背景看，工信部此前印发的《信息通信行业发展”十五五”规划》提出有序部署万卡、十万卡及以上智算集群，并加大力度适配国产算力芯片。京东云的这次扩容，正好踩在这一节奏上。

摩尔线程创始人、董事长兼首席执行官张建中表示：”这个 10 万卡 AI 工厂，不仅可以训练大模型，提供词元生产，训练好智能体，我们也希望这个 10 万卡 AI 工厂能够真正地为所有行业从业者服务，去打造具身智能的新变革，也能够帮助京东一起去打造世界上最大的物理世界运营中心。”

他还补充了一个判断：”Scaling Law 仍然有效，十万卡集群是大势所趋。”

曹鹏则表示：”我们正全面推进物理 AI 战略落地，高性能、高可靠的国产算力是核心支撑。选择与摩尔线程深度合作，正是看重其在国产训练级 GPU 上的稀缺能力和大规模集群的成熟交付经验。”

数据：1000 万小时采集行动推进中

在数据层面，京东云 1000 万小时人类最大规模数据采集行动正在推进。围绕具身智能所需的数据，京东云建设了覆盖”采、存、标、训、评、仿、测”全流程的具身数据基础设施，把人类在真实场景中的操作转化为可供模型学习的数据。

目前首批开源数据集 EgoLive 已对外开放，据京东方面介绍，已有超过 8 个国家、百所高校和科研机构申请使用。

模型：JoyAI 矩阵与一项第一

模型层面，京东已形成覆盖多模态模型、世界模型和具身模型的 JoyAI 基础模型矩阵。

本次大会上，京东发布了实时可交互的世界模型 JoyAI-Echo WM。在面向交互式世界模型的公开评测 WBench Navigation 中，该模型以 81.6 分排名第一。

会上京东还启动了”物理 AI 加速计划”，并提出在机器人领域实现六项”全球第一”，包括建成全球最大的具身智能数据采集中心、打造全球最大的机器人产业基地网络、成为全球最大的机器人零部件供应商、成为全球最大的机器人零售渠道、打造全球最大规模的具身机器人应用军团，以及创造超 10 万个机器人售后工程师岗位。

十万卡意味着什么

对国内 AI 基础设施而言，十万卡是一个有象征意义的门槛。它考验的并不只是 GPU 采购数量，还包括集群网络、存储、供电散热、故障隔离、断点续训以及调度软件等一整套工程能力。此前国产算力更多停留在”可用”阶段，能否支撑超大规模稳定训练，是产业界关注的重点。

京东云此次把摩尔线程的全功能 GPU 作为算力底座，两家将在芯片、云平台到模型训练之间进行全栈协同，用于支撑 JoyAI 全系大模型的训练与迭代，加速模型训练、仿真与高质量数据生成。

需要指出的是，10 万卡集群目前仍处于规划建设阶段，具体的采购清单、交付节奏与验收时间尚未披露，实际推进情况有待后续观察。

随着 AI 推理（inference）成为企业工作负载的主流，组织需要重新思考底层基础设施的设计逻辑。过去，算力规模往往是唯一的标尺；如今，速度、能效、可扩展性与每瓦性能共同决定了一套系统能否把 AI 的真正价值释放到现实业务中。

Tirias Research 创始人兼首席分析师 Jim McGregor 指出，业界常把 AI 当作单一工作负载，但事实并非如此。他在与 MIT Technology Review Insights 的合作分析中表示：”AI 不是单一工作负载，而是成千上万、乃至数十亿个不同的工作负载。”推理任务往往是持续的、地理分布的，并且对响应时间高度敏感，这就要求系统从一开始就被设计成可扩展、有韧性且高效的形态。

医疗保健系统实时分析数以百万计的数据点以加速救命研究、智能助手一次性解决数千个复杂客户诉求——这些真实场景都依赖一套先进的基础设施作为”持续智能”的引擎，在支撑实时服务的同时，也驱动着越来越聪明的物联网与消费级设备边缘。在这一由推理驱动的新格局里，每一次延迟、每一个瓶颈、每一瓦浪费，都会直接影响结果质量与运营成本。

数据搬运成为新瓶颈

传统企业 IT 可以依赖相对稳定的基础设施假设，但推理与智能体（agentic）AI 带来了延迟、数据搬运、可扩展性和利用率方面的全新需求。以检索增强生成（RAG）为例，这类技术需要系统不断扫描海量数据库以生成准确回答，不仅对算力要求高，更要求数据能够被即时取用。

McGregor 认为，随着数据实时查询量的激增，”数据如何在更广的架构中被高效搬运、缓存和交付”变得至关重要，内存与存储由此从后台支撑角色上升为战略资产。单纯采购最快的处理器已不够，推理高度依赖内存带宽、缓存、存储就近性，以及快速稳定取回相关信息的能力。他强调，最高效的 AI 基础设施看上去不像一堆顶级零件的堆叠，而更像计算、内存、存储与网络的均衡系统。”你必须把这四者作为一个整体来设计才能高效，这正是挑战所在。”

把基础设施采购当成战略

规划 AI 基础设施不只是挑选最快的硬件，更关键的是如何在技术快速迭代时避免被过早锁死。McGregor 提出几点框架：

• 先明确要优化的 AI 工作负载，避免为泛化的”AI 就绪”过度投入而留下瓶颈；
• 为计算、内存、存储、供电与散热构建模块化架构，让容量随需求变化；
• 与完整的供应商和集成商生态合作，降低供应风险；
• 持续重估采购策略，因为硬件与商业模式变化太快；
• 优化效率与投资回报，而非只追求峰值性能——能效本身已是面向公众的指标，更高的利用率能回应外界对耗电与耗水的审视。

结论

在推理时代，内存与存储不再是被动的仓库，而是 AI 持续运转的”血液”。McGregor 预测，未来的竞争优势将越来越多属于那些把计算、内存、存储与网络当作一个整体、能够规模化且可量化回报地高效交付 AI 的企业。他总结道，采购即战略，系统设计已是领导层议题——”每一位高管都必须回答的一个核心问题是：AI 将如何改变我的商业模式？”

*本文基于 MIT Technology Review Insights 发布的行业分析，该内容由人类研究撰写，并在人工监督下使用 AI 工具辅助生产流程。*

据多位在职与前员工透露，Meta 正在其数据中心测试能插拔线缆、重置服务器、切断设备供电的机器人。这一此前未被披露的尝试，目标是让飞速扩张的 AI 基础设施在更少人力下运转，压低运维成本。

用到的机器人

参与测试的硬件来自多家厂商，包括 Watney Robotics、Kinova 与 ABB。其中，Meta 在评估用 Kinova Gen3 机械臂给服务器断电或做电源循环；另一台机器人负责更换网线。有数据中心员工估计，若顺利，这类机器人可替代某些岗位最多 80% 的工作量。在一些机房，Meta 还悄悄部署了一种形似”手指”的简单装置，能在远程指令下按压 Mac Mini 等设备的电源键完成重启。

从试点到规模化

自去年 6 月起，Meta 在艾奥瓦州 Altoona 数据中心用一对双臂 Watney 机器人做布线，目前仍由人监督、速度尚不如人，但被认为有前景。在俄亥俄州纽瓦克的最新园区”Prometheus”，Meta 测试 ABB 制造的四轮机器人——带剪式升降平台和顶部的六轴机械臂——用于复位部件，未来可能在更少人工监督下承担更多任务。

不止 Meta 一家

微软、谷歌、亚马逊也在布局数据中心机器人：微软研究加速器董事总经理 Ashley Llorens 表示，用机器人替换故障服务器机架是”我们确实在关注的方向”；谷歌在 2024 年 OCP 峰会、亚马逊用机器人协助回收零部件，均已有公开动作。不过 Exclaim Robotics 首席执行官 Helen Oleynikova 提醒，目前”有很多试点和演示，但还没有可证明的成熟方案”。早期试验里机器人曾压坏服务器，盘点机器人因摄像头仅支持灰度而分不清红绿指示灯，过弯和线缆也仍是难点。

对人的影响

Meta 方面强调仍在大力招聘与培训运维人员，并通过”美洲劳动力学院”免费培训电气、机械与管道工种，在路易斯安那、俄亥俄、印第安纳、得州等地保障就业。但在部分机房，员工群聊已流露出对岗位被逐步替代的担忧。从行业看，让机器人承担高温、黑暗环境下的重复劳动，把人解放到更复杂的运维判断上，正成为数据中心自动化的共同方向。在中国内地，阿里、腾讯、字节跳动等云厂商同样在大规模建设数据中心，自动化运维也是行业共同方向，相关技术趋势值得关注。

技术源自贝尔实验室

Accelsius 于 2022 年由 Innventure（纳斯达克代码：INV）创立，其 NeuCool 两相直触芯片液冷技术源自诺基亚贝尔实验室（Nokia Bell Labs），相关技术由贝尔实验室研发五年却未产品化，最终由 Accelsius 推向商用。此次部署的 IR150 被描述为业内首款完全集成的”IT 机柜加 CDU（冷却液分配单元）”一体产品。

相变散热的原理

两相直触芯片液冷的核心，是用一种介电制冷剂（dielectric refrigerant）直接在芯片上的蒸发器（又称冷板）沸腾，吸收大量汽化潜热，蒸汽再被送往 CDU 冷凝回液体，形成闭环。与传统单相水冷”只是升温”不同，相变在恒温下带走更多热量，因此能应对最炙手可热的人工智能与高性能计算处理器。由于制冷剂不导电，即便泄漏也不会损伤电子元件，且可在比单相直触芯片液冷更高的设施水温下运行，从而获得更长自然冷却时长、降低数据中心 PUE。

成本账：运维省三成

相比于单相直触芯片液冷，两相方案的优势落在账面上。据 Johnson Controls 对 Accelsius 的战略投资披露，两相直触芯片液冷可带来约 35% 的运维支出（OpEx）节省，以及 8% 至 17% 的总拥有成本（TCO）节省。IR150 把两相 CDU 直接集成进 IT 机箱，做到即插即用，既降低冷却系统复杂度与成本，又把故障域限制在单个机柜内。

培训中心的意义

EdgeConneX 全球培训中心是一个真实运营的数据中心学习环境，目的是让服务团队在上岗前就获得贴近生产的实操训练。引入两相液冷课程后，运维人员、技术员与生态伙伴可以动手部署和维护面向 AI 工作负载的两相液冷系统。Accelsius 首席执行官 John Hewitt 表示，两相冷却因制冷剂架构带来的简化运维模式正持续获得采用势头，不同于传统单相系统需要在服务器冷却回路中做大量流体管理与维护，NeuCool 让维护团队把精力放在可用性与能效上。EdgeConneX 工程与运营执行副总裁 Brian Green 则称，该培训中心本就是为面向未来数据中心技术培养运维人员而建，加入两相液冷能让团队获得一项正成为 AI 基础设施核心的技术的实操经验。

行业趋势

AI 算力密度持续攀升，正把全球数据中心从风冷推向液冷，两相液冷是其中的重要方向之一。在中国市场，智算中心同样面临高密散热压力，液冷也日益成为新建数据中心的主流配置方向。此次 Accelsius 与 EdgeConneX 的合作，折射出产业界为下一代高密 AI 负载储备液冷运维能力的共同动作。

2.8万亿参数背后的技术账

Kimi K3 采用混合专家（MoE）架构，总参数量高达 2.8 万亿，内置 896 个路由专家，每个 token 仅激活其中 16 个。这意味着虽然参数规模惊人，但单次推理的实际计算量只是总参数的一小部分，兼顾了规模与效率。

模型的另外几项核心规格同样抢眼：上下文窗口达到 100 万 token（精确值为 1,048,576），可以直接处理整个代码库或超长文档；原生支持视觉能力，文本、图片、视频输入共用同一个模型，无需外挂视觉适配器。

支撑这些能力的是两项架构创新——Kimi Delta Attention（KDA）混合线性注意力和 Attention Residuals（注意力残差）。官方技术报告显示，与上一代 K2 相比，K3 的参数规模扩大约 3 倍，整体扩展效率反而提升了约 2.5 倍。

除模型权重外，月之暗面还同步开源了三项训练基础设施：面向超大规模 MoE 的高性能通信库 MoonEP、KDA 高性能算子 FlashKDA（在英伟达 H20 上预填充速度较基线提升 1.72 至 2.22 倍），以及与 KVCache.ai 合作开发的智能体沙箱系统 AgentEnv。

海外平台为何抢着上架

Telnyx 在发布说明中列出了接入 Kimi K3 的理由：可配置的推理强度（低、高、最大三档）、函数调用与 JSON 结构化输出、默认开启的提示词前缀缓存——这些都是构建智能体应用的关键能力。在 Telnyx 平台上，K3 与 Kimi K2.6、GLM-5.2-FP8、MiniMax M3 等模型并列可选。

Telnyx 还给出了一个耐人寻味的判断：AI 行业的竞争优势，正在从「谁能造出最聪明的模型」转向「谁掌握决定每个请求跑在哪里的基础设施」，而 K3 的出现恰恰说明，模型侧的问题正在被开源力量解决。该公司认为，K3 在编程、推理和智能体任务的基准测试中已能与海外头部闭源模型正面竞争，「开源与前沿实验室的差距没有想象中大，某些场景甚至已经追平」。

生态连锁反应已经出现

开源发布后，产业链反应迅速：阿里云千问平台宣布上线 K3；华为昇腾完成「零日适配」，这是首个在中国自研芯片上跑通的开放 3 万亿级模型。投行也给出了评价——摩根士丹利称，Kimi K3 证明中国大模型在规模、性能、定价三个层面实现了全方位追赶；高盛则认为，中国开源模型的智能水平已达到全球大规模普及的临界点。

不过，「开源」不等于「人人可用」。2.8 万亿参数的体量意味着本地部署门槛极高，仅加载模型就需要至少 10 张 GB300 级别的 GPU。也正因如此，K3 上线后不久便因算力紧张暂停了新用户订阅——对绝大多数开发者而言，通过云平台调用 API 仍是现实的选择，这也解释了海外推理平台为何急于第一时间上架。

来源：Telnyx 官方发布说明、Hacker News、Pandaily、腾讯新闻