CUDA 13.5 正式 GA:Vera Rubin 进入生产级部署

结论:英伟达于 2026 年 11 月 4 日发布 CUDA Toolkit 13.5,为下一代 AI 计算平台 Vera Rubin 提供正式可用(GA)支持,重点升级多 GPU 通信与 GPU 调度。

关键数字:发布日期 11 月 4 日 / 支持架构 Vera Rubin / 驱动版本 Linux 620.70.06、Windows 621.14

升级模块关键变化面向场景
cuBLAS 矩阵乘法NVFP4、MXFP8 低精度内核调优混合专家模型(MoE)训练
MPS v3 调度加权时间片 + SM 分区负载均衡多租户 GPU 共享
多 GPU 通信CUDA Tile 内核内访问他卡显存NVLink 跨卡归约
Nsight Perf SDK常开式性能分析(公开预览)长时训练排查

多 GPU 通信算进了同一内核

CUDA Tile 现在支持在计算内核内部直接访问其他 GPU 的显存,依托 NVLink 高速互连实现。

借助多播指针和专用多 GPU 内存操作,开发者可以在支持 NVLink SHARP 的 NVSwitch 网络中执行跨 GPU 数据归约和写入。

这意味着 GPU 间的数据通信与计算操作能融合在同一内核,减少传统多卡协同中内核边界与数据传递带来的额外开销。英伟达列举的场景包括融合矩阵乘法和跨 GPU 数据归约。

调度层面:SM 分区能借能还

MPS v3 新增加权时间片机制。管理员可为重负载服务器设置更长的基础计算时间片,并独立调整 GPU 在任务间的切换频率。

SM 分区负载均衡让任务在资源充足时借用其他分区闲置的 SM,原分区需要时先回收。局部域(Locality Domain)提供两种分区方式:各域均分 SM 保证可预测性,或将域外补充 SM 纳入分区用满全部资源。

开发者可通过 API 查询各分区实际获得的 SM 数量,以便合理分配计算任务。

Windows 驱动模型:TCC 退役

从 Rubin 架构起,CUDA 不再支持 Tesla Compute Cluster(TCC)模式,仅支持 WDDM 与 MCDM 两种 Windows 驱动模型。

MCDM 面向纯计算场景,相关应用与部署工具需适配新的支持范围。

驱动方面,英伟达同步发布 R620 系列数据中心 GPU 驱动:Linux 620.70.06、Windows 621.14,发布日期均为 11 月 4 日。CUDA Toolkit 13.5 与驱动分别发布,驱动不再作为 Toolkit 内置组件。

对基础设施团队意味着什么

CUDA 13.5 将 Vera Rubin 从开发者预览推进到企业生产部署阶段。这意味着采购 Rubin 架构集群的团队现在可以获得稳定的底层软件支持。

多 GPU 通信与细粒度调度能力直接服务于大规模 MoE 训练和推理。值得注意的是,转向 MCDM 驱动模型要求既有 TCC 部署方案重新适配,需提前评估迁移成本。

常见问题

哪些开发者最该升级?

运行大规模 AI 训练、推理,或在 Vera Rubin 上做多租户 GPU 共享的团队收益最大,集中在吞吐与调度效率。

已经在用 TCC 模式会受影响吗?

会。从 Rubin 架构起 CUDA 不再支持 TCC,仅保留 WDDM 与 MCDM,现有 TCC 部署需迁移到 MCDM 并适配工具链。

驱动需要一起更新吗?

需要。配套 R620 系列数据中心驱动(Linux 620.70.06、Windows 621.14,11 月 4 日),且驱动已不再随 Toolkit 内置,需单独安装。

信息来源:英伟达官方 CUDA 13.5 发布说明,IT之家、凤凰网科技等媒体 2026 年 11 月 5 日报道。


说说

全部说说