英伟达 CUDA Toolkit 13.5 发布：Vera Rubin 转正，多 GPU 通信升级

Vera Rubin 如今拿到了正式可用（GA）支持。按英伟达的说法，这意味着该架构走出了早期的开发者预览阶段，开始面向企业生产环境部署。

官方介绍称，这次更新把 Vera Rubin 平台的底层软件支持补齐，同时动了 GPU 资源调度、多 GPU 通信、数学计算库和性能分析工具几块，主要瞄着大规模 AI 训练与推理场景。

计算性能上，CUDA 13.5 调整了 cuBLAS 的矩阵乘法启发式策略和内核调优机制，针对 Vera Rubin 架构上的 NVFP4、MXFP8 低精度矩阵运算做了优化，混合专家模型（MoE）等训练场景都在覆盖范围内。

GPU 调度这块，NVIDIA 多进程服务（MPS）v3 得到升级，新增加权时间片机制。管理员能给跑重负载的 MPS 服务器设定更长的基础计算时间片，GPU 在不同任务间的切换频率也可以单独调，多任务环境下的资源分配因此更灵活。

流式多处理器（SM）分区负载均衡功能也进了 MPS v3。资源充足时，任务能借用其他分区暂时闲置的 SM；原分区要用时，系统先把借出去的部分收回。资源怎么流动，应用看到的基础分区规模都不变。新版本还加了基于 Linux cgroup 的资源路由和命名空间级 SM 分区配置。

局部域（Locality Domain）同样有了新的资源划分策略。应用现在可选两种 SM 分区方式：一是在各局部域中分配相同数量的 SM，资源规模一致、可预测；二是把原本在分区之外的补充 SM 纳入计算分区，尽量把 GPU 计算资源用满。开发者还能通过相关 API 查询各分区实际拿到的 SM 数量，据此安排计算任务。

多 GPU 通信是另一项重点。CUDA Tile 现在支持在计算内核内部直接访问其他 GPU 的显存，功能依托 NVLink 高速互连实现。多播指针和专用多 GPU 内存操作也派上了用场，开发者可以在支持 NVLink SHARP 的 NVSwitch 网络中做跨 GPU 数据归约和写入。

这样一来，GPU 之间的数据通信和计算操作能塞进同一个内核执行，传统多卡协同中因内核边界和数据传递产生的额外开销随之减少。英伟达举的例子包括融合矩阵乘法和跨 GPU 数据归约。

Windows 平台方面，英伟达把 Rubin 架构的驱动模型支持范围说得很明确：从 Rubin 架构起，CUDA 不再支持 Tesla Compute Cluster（TCC）模式，只支持 Windows Display Driver Model（WDDM）和 Microsoft Compute Driver Model（MCDM）。MCDM 面向纯计算场景，相关应用和部署工具得适配新的支持范围。

开发工具上，CUDA 13.5 首次以公开预览形式推出 NVIDIA Nsight Perf SDK for AI，为长时间运行的 AI 训练和推理任务提供常开式性能分析。它能持续收集 GPU、CPU 性能指标及执行上下文，帮开发者定位难以复现的间歇性性能问题，采集结果可通过 Perfetto 查看。

其余组件也有更新，包括 CUDA Python、CUDA Graph、CCCL 3.5 等。CUDA Python 1.2 增加了批量内存复制、程序化依赖启动（PDL）以及更灵活的 CUDA Graph 更新能力；CCCL 3.5 则加入面向 CUB 的公开调优接口、批量 Top-K 选择和可重复浮点扫描等功能。

驱动同步跟进：英伟达发布 R620 系列数据中心 GPU 驱动，Linux 版本 620.70.06，Windows 版本 621.14，发布日期均为 11 月 4 日。需要提醒的是，CUDA Toolkit 13.5 与数据中心驱动分开发布，驱动不再作为 Toolkit 的内置组件提供。