CUDA Toolkit 13.4 推出 Windows on Arm 支援與 GPU 共享資源管控升級
為何重要
CUDA Toolkit 13.4 的核心意義在於鞏固軟體生態對雲端容器化與分散式部署的適應性。MPS V3 整合 cgroup 機制解決了容器環境中 GPU 共享難題,這直接影響 AI 基礎設施的執行效率與成本效益。而 Windows on Arm 的支援則擴大了 NVIDIA 生態系在企業端與特定邊緣裝置版圖。對於雲端運算提供商與 AI 公司而言,這些軟體層的細節最佳化能大幅提升單位 GPU 的利用率,從而改善營運資料。
NVIDIA 發布 CUDA Toolkit 13.4,擴充套件至 Windows on Arm 平臺,並針對下一代 Rubin 架構提供預覽支援。新版透過 MPS V3 與 Compute Fabric Transport 顯著提升硬體資源管理的精確度與傳輸效率。
- 新增 Windows on Arm 支援,延伸 CUDA 陣營至微軟 ARM 裝置;同時提供 NVIDIA Rubin 架構(compute capability 107)的預覽版,協助開發者提前進行應用程式移植。
- MPS V3 引進現代化控制層,支援具名執行個體、TOML 設定檔以及容器環境中的 cgroup 整合 GPU 記憶體限制,實現對 GPU 資源的精確定義與隔離。
- CUDA Compute Fabric Transport (CFT) 提供基於終點識別碼的排程方式,讓軟體能於 NVLink 網路中進行非同步的 put/get/reduction 作業,降低大型多 GPU 系統的虛擬位址壓力。
- CUDA Python 更新至 cuda.core 1.1.0,新增 texture 與 surface 程式設計支援、NUMA-aware managed memory 模組及完整的 .pyi 型別鉤子,強化 Pythonic 開發體驗。