结论:英伟达于 2026 年 11 月 4 日发布 CUDA Toolkit 13.5,为下一代 AI 计算平台 Vera Rubin 提供正式可用(GA)支持,重点升级多 GPU 通信与 GPU 调度。
关键数字:发布日期 11 月 4 日 / 支持架构 Vera Rubin / 驱动版本 Linux 620.70.06、Windows 621.14
| 升级模块 | 关键变化 | 面向场景 |
|---|---|---|
| cuBLAS 矩阵乘法 | NVFP4、MXFP8 低精度内核调优 | 混合专家模型(MoE)训练 |
| MPS v3 调度 | 加权时间片 + SM 分区负载均衡 | 多租户 GPU 共享 |
| 多 GPU 通信 | CUDA Tile 内核内访问他卡显存 | NVLink 跨卡归约 |
| Nsight Perf SDK | 常开式性能分析(公开预览) | 长时训练排查 |
多 GPU 通信算进了同一内核
CUDA Tile 现在支持在计算内核内部直接访问其他 GPU 的显存,依托 NVLink 高速互连实现。
借助多播指针和专用多 GPU 内存操作,开发者可以在支持 NVLink SHARP 的 NVSwitch 网络中执行跨 GPU 数据归约和写入。
这意味着 GPU 间的数据通信与计算操作能融合在同一内核,减少传统多卡协同中内核边界与数据传递带来的额外开销。英伟达列举的场景包括融合矩阵乘法和跨 GPU 数据归约。
调度层面:SM 分区能借能还
MPS v3 新增加权时间片机制。管理员可为重负载服务器设置更长的基础计算时间片,并独立调整 GPU 在任务间的切换频率。
SM 分区负载均衡让任务在资源充足时借用其他分区闲置的 SM,原分区需要时先回收。局部域(Locality Domain)提供两种分区方式:各域均分 SM 保证可预测性,或将域外补充 SM 纳入分区用满全部资源。
开发者可通过 API 查询各分区实际获得的 SM 数量,以便合理分配计算任务。
Windows 驱动模型:TCC 退役
从 Rubin 架构起,CUDA 不再支持 Tesla Compute Cluster(TCC)模式,仅支持 WDDM 与 MCDM 两种 Windows 驱动模型。
MCDM 面向纯计算场景,相关应用与部署工具需适配新的支持范围。
驱动方面,英伟达同步发布 R620 系列数据中心 GPU 驱动:Linux 620.70.06、Windows 621.14,发布日期均为 11 月 4 日。CUDA Toolkit 13.5 与驱动分别发布,驱动不再作为 Toolkit 内置组件。
对基础设施团队意味着什么
CUDA 13.5 将 Vera Rubin 从开发者预览推进到企业生产部署阶段。这意味着采购 Rubin 架构集群的团队现在可以获得稳定的底层软件支持。
多 GPU 通信与细粒度调度能力直接服务于大规模 MoE 训练和推理。值得注意的是,转向 MCDM 驱动模型要求既有 TCC 部署方案重新适配,需提前评估迁移成本。
常见问题
哪些开发者最该升级?
运行大规模 AI 训练、推理,或在 Vera Rubin 上做多租户 GPU 共享的团队收益最大,集中在吞吐与调度效率。
已经在用 TCC 模式会受影响吗?
会。从 Rubin 架构起 CUDA 不再支持 TCC,仅保留 WDDM 与 MCDM,现有 TCC 部署需迁移到 MCDM 并适配工具链。
驱动需要一起更新吗?
需要。配套 R620 系列数据中心驱动(Linux 620.70.06、Windows 621.14,11 月 4 日),且驱动已不再随 Toolkit 内置,需单独安装。
信息来源:英伟达官方 CUDA 13.5 发布说明,IT之家、凤凰网科技等媒体 2026 年 11 月 5 日报道。







