时延首次压到 5.85 毫秒以内

浪潮信息介绍，SD200 Ultra 的 Token（词元）生成时延首次降至 5.85 毫秒以内，换算成单用户速度为 170 Tokens/s，达到业界平均水平的 5 倍。该机型还支持 10 万亿参数规模的前沿模型在单机运行。

Token 生成时延指大模型每输出一个词元所需的平均时间，是衡量推理响应速度的核心指标之一。这一数字越小，用户等待答案的时间越短。

128 颗本土芯片的紧耦合

SD200 Ultra 基于国产人工智能芯片打造，采用 3D Hyper Mesh 架构，紧耦合 128 颗本土 AI 芯片，提供 8TB 统一编址显存与 64TB 内存。系统采用原生内存语义通信，通信时延低至 0.69 微秒。

它通过全局统一编址、虚拟影子设备映射、跨域地址翻译与路由，实现 GPU 跨主机域的统一寻址访问，构建出百纳秒级的低时延内存语义互连域。借助对称内存技术，SD200 Ultra 首次在基于本土 AI 芯片的超节点上实现 GPU 显存直连，使 GPU 能够直接访问远端显存，官方称 AllReduce（全规约）通信时间降低 3.5 倍。

为 Kimi K3 定制超级算子

针对 Kimi K3 的推理，SD200 Ultra 使用 Kimi K3 构建了超级算子智能体，实现通算融合、Tile 级流水的超级算子，将 KDA、Gated MLA、MoE 中的基础算子进行融合。结果是算子数量降低 10 倍，推理性能提升 3 倍以上。

同期发布的元脑 HC2000 多元算力机组采用 DirectCom 2.0 极速架构，基于高密液冷 AI 整机柜，搭配 MCIS 推理软件栈，可动态匹配计算负载。官方称在同等投资下 Token 产能提升 10 倍。

Agent 时代的两类智算

浪潮将 Agent（智能体）时代的 AI 计算划分为两个方向：能力型智算（Capability AI Compute）支撑突破智能上限，容量型智算（Capacity AI Compute）实现智能的充分供给。

其判断依据是模型规模的一组变化：前沿模型参数已从 DeepSeek R1 的 6710 亿增长到 Kimi K3 的 2.8 万亿，并走向 10 万亿级；上下文长度从 128K 扩展到 1M 以上；Agent 从单体走向成百上千个协同。模型权重、键值缓存（KV Cache）与并发任务规模同步增长，对显存容量、高速互连和并行扩展效率提出更高要求。

复杂 Agent 任务包含大量”推理—工具调用—反馈—重新规划”循环，每一轮时延都会累积。浪潮信息表示，时延已不只是体验指标，还可能影响任务能否及时完成。这类任务往往需要连续运行数小时甚至数天，期间经历大量模型调用、工具调用与数据交互，任何计算、通信或软件故障都可能中断任务。

（本文基于 IT之家及多家媒体报道整理）

AI 服务器成用电主力

TrendForce 估算，2026 年全球数据中心电力需求容量将达到 161 GW，同比增长约 31%；其中 AI 服务器是主要增长来源，占整体需求容量的 33.4%。作为对比，2025 年全球数据中心电力需求容量为 122.9 GW，AI 服务器占比还不到 25%。

这种此消彼长十分明显：通用服务器的占比，预计将从过往约 40% 下滑到 2027 年的 25.6%；而 AI 服务器的占比则可能在 2027 年突破 40%。TrendForce 认为，在云端服务供应商（CSP）持续扩大资本支出、整体服务器出货量不减少的背景下，数据中心电力需求容量在 2027 年仍将保持 30% 以上的增速。

缺口从 2028 年开始放大

更严峻的问题在供给端。TrendForce 指出，在 2025 年之前，电网的可交付能力尚能满足数据中心的需求增长；但从 2026 年起，供需开始背离，2028 年之后差距将明显放大。

按情境估算，到 2030 年，全球数据中心电力需求容量将达到 490.7 GW；在其他用电需求都被满足的前提下，电网能够供数据中心使用的容量约为 222.6 GW，账面缺口约 268 GW。不过 TrendForce 也提醒，这一缺口应从两个角度理解：一方面，数据中心用电不只依赖电网，运营方可以发展表后（behind-the-meter）的就地发电来弥补；另一方面，电网并网与输配电建设的延迟，确实会造成真实的供电短缺。以目前数据中心部署最集中的美国为例，到 2030 年其数据中心电力供需缺口预计将超过 170 GW。

谷歌的亲身印证

这一判断并非纸上谈兵。在此前举行的 SEMICON Taiwan 2026 活动上，谷歌宣布其 TPU 系统已经扩展至 100 万芯片级别规模，而电力供应已经成为 AI 基础设施扩张的核心瓶颈。

谷歌首席技术官阿明·瓦赫达特（Amin Vahdat）指出，随着 AI 模型规模不断扩大，制约扩张的核心瓶颈已从芯片本身转移至电力供给。他直言，AI 算力的天花板，正在从”造不出芯片”变成”找不到电”。

产业正在转向电力基础设施

面对快速部署的 IT 设备，以及供配电等非 IT 设备需求的同步增长，数据中心运营商已经开始规划采用高压直流（HVDC）供电架构，以提升端到端的供配电效率。TrendForce 认为，电力接入、变压器、输电线路与散热能力，都可能成为推迟新机房投产的环节。

当算力的竞赛从”谁有更多的芯片”延伸到”谁能更稳定地供上电”，能源管理、储能、微电网乃至燃料电池，正在成为 AI 基建下一阶段无法回避的考题。

两款服务器配置浮出水面

早在古尔曼表态之前，科技媒体 The Information 已报道苹果正筹划自研企业级服务器，采用自研 AI 芯片。据披露，产品考虑推出两个版本：基础版配备两颗计划中的 M8 Ultra 芯片，高配版则配备四颗。为解决多颗芯片间的高速互联，苹果正与英伟达洽谈采用其 NVLink Fusion 方案——这套包含交换机、芯粒与软件的技术，能让数据中心内的多颗芯片高速协同工作。

与此同时，苹果还将推出一款新的 AI 服务器，预计于 2027 年初上线。

时隔十五年重返服务器市场

这将是苹果时隔约十五年再度进入服务器领域。2002 年至 2011 年间，苹果曾推出搭载英特尔与 IBM 芯片的 Xserve 服务器，但因对企业市场重视不足、客户支持薄弱，最终于 2011 年初停产。

此番回归的驱动力来自 AI 算力需求。在苹果 2026 财年第三季度财报中，Mac 业务销售额同比大增 29% 至 103 亿美元，增速领跑各产品线。据了解，OpenAI 等大型 AI 实验室已采购数万台 Mac mini 与 Mac Studio，用于通过强化学习训练 AI 智能体，Anthropic 亦从亚马逊云科技租用 Mac mini。

苹果新任 CEO 约翰·特努斯（John Ternus）早在一年多前项目启动时就表态支持。受服务器消息影响，苹果股价周三盘中上涨 0.7%，英伟达股价同日一度涨逾 2%。

差异化卡位私有化推理

高盛预计，在 AI 浪潮推动下，全球 AI 服务器市场规模到 2030 年将达到 1.24 万亿美元。苹果的思路并非与英伟达 GPU 集群正面争夺大模型训练，而是切入 AI 推理、尤其是「私有化部署」场景，瞄准对数据隐私高度敏感的企业与政府客户。M7 Ultra 预计支持最高 1.5TB 统一内存，约为 M5 Ultra 的两倍。

不过，苹果现用于内部 Private Cloud Compute 的自研互联技术，在超大规模部署下存在速度与成本瓶颈，这也是其向英伟达 NVLink Fusion 求助的直接原因。作为 UALink 开放互联联盟（成员已超 65 家）的董事会成员，苹果若最终倒向英伟达专有方案，将是「开放」与「性能」之间的一次关键取舍。

据《The Information》报道，苹果正筹划推出搭载自研 M8 Ultra 芯片的企业级 AI 服务器，并计划对外出售，而不仅限内部使用。报道称相关方案尚未最终确定，预计最早 2029 年才会上市销售，且在 2029 年之前项目仍可能被取消。

两种机型与芯片配置

据知情人士透露，这款面向 AI 开发者的服务器考虑提供两个版本：较小版本由两颗 M8 Ultra 芯片集群组成，较大版本则由四颗 M8 Ultra 芯片组成。目标客户包括 AI 开发者、其他企业以及政府部门。

报道指出，苹果已就该服务器项目研发约一年时间，首席执行官 John Ternus（约翰·特纳斯）对此表示支持。

可能引入英伟达互联技术

在芯片互联方案上，苹果考虑采用英伟达（Nvidia）的 NVLink Fusion 产品组合，其中包括交换机、小芯片（chiplet）与软件，用于在数据中心内帮助芯片彼此通信。这一选择意味着即便服务器基于苹果自研芯片，互联层仍可能依赖英伟达的生态。

市场逻辑

业界分析认为，尽管 2029 年尚远且项目存在变数，苹果此举具备合理性。此前已有用户将多台 Mac Studio 集群用于本地运行 AI 模型，说明市场存在对更强算力苹果服务器的需求。真正的悬念在于，这一项目能否成为苹果足够优先的事项，从而最终推进到正式发布。