告别GPU资源浪费!CUDA 13.5为Vera Rubin提供生产级支持:计算分区可灵活借调
快科技11月5日消息,NVIDIA于11月4日正式发布CUDA Toolkit 13.5,为下一代AI计算平台Vera Rubin提供生产级通用可用支持。这标志着Vera Rubin从早期预览阶段正式进入企业生产部署阶段。本次更...
最新11月5日消息,NVIDIA于11月4日正式发布CUDA Toolkit 13.5,为下一代AI计算平台Vera Rubin提供生产级通用可用支持。这标志着Vera Rubin从早期预览阶段正式进入企业生产部署阶段。

本次更新针对Rubin架构的低精度矩阵运算优化了底层内核。NVIDIA称无需针对每种计算形状逐一调校即可提升吞吐量。值得注意的是,从Rubin架构起,CUDA不再支持TCC模式,仅提供WDDM和MCDM两种Windows驱动模型。
GPU调度方面,多实例服务架构v3引入加权时间切片,允许为重负载服务器设置更长的基础计算时间片,并独立调节GPU在任务间的切换频率。多租户场景下的GPU共享控制更加精细,有效减少了资源抢占。
局部域也获得增强。系统现在支持两种流式多处理器分区策略:一是各局部域使用统一数量保证可预测性;二是将域外补充流式处理器纳入分区以用满全部资源。计算分区支持资源的动态借调与回收,但无论资源如何流转,应用所获得的基础资源配额始终保持稳定。
计算内核层级迎来多GPU通信能力。内核可通过高速互连网络直接访问其他GPU的内存,并支持跨显卡的数据归约,将通信与计算融合在同一个内核中完成,大幅降低多卡协同的通信开销。
此外,性能分析工具以公开预览形式亮相,为长时间运行的训练与推理提供常开式监控,帮助排查难以复现的间歇性问题。从硬件生产就绪到调度优化,CUDA 13.5为下一代算力集群补齐了底层工具链。
此次更新同步搭配NVIDIA 620.70.06 Linux驱动发布。

《告别GPU资源浪费!CUDA 13.5为Vera Rubin提供生产级支持:计算分区可灵活借调》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
报废笔记本别扔!几十元就能把旧SSD变成移动硬盘:性能秒杀U盘
快科技11月4日消息,如果你刚为笔记本升级了更大容量的存储,或者手头有一台闲置旧设备落灰,不妨考虑从中那块闲置 SSD 上再榨出一些使用价值。近日知名硬件媒体Engadget指出,通过加装廉价的... -
三星截胡台积电!AMD HBM基础裸片订单到手:2nm代工
快科技11月4日消息,据报道,三星晶圆代工业务终于拿下一项关键订单:AMD已确定将下一代HBM基础裸片交由三星位于美国得州的泰勒第二座晶圆厂生产。基础裸片是HBM堆栈底部的逻辑芯片,负责管... -
HBM走私现新招!与低端CPU焊在一起合法出口:单卡利润超16万元
快科技11月4日消息,据报道,三星与SK海力士生产的HBM正通过一条灰色通道流入第三方市场。走私者利用出口管制的分类漏洞,将HBM与廉价的CPU封装在同一块基板上,以CPU的名义合法申报出口。美... -
美国卡死不放!SK海力士大连扩产遇阻:NAND工厂跟着遭殃
快科技11月4日消息,据报道,美国官员迟迟未批准SK海力士为其中国大连工厂引进美国芯片制造设备所需的出口许可,这使得该公司在美国纽约州新建NAND闪存工厂的计划面临复杂局面。核心矛盾在于... -
新一代Windows PC内存需求曝光:8GB勉强能用、128GB才算专业
快科技11月4日消息,微软在近日曝光的一份Windows混合智能路线图PPT中,将AI PC按内存和算力划分为四个层级,覆盖了从8GB入门到512GB工作站级设备,同时泄露了AMD、Intel、高通和NVIDIA多款尚未...












