利用 Agentic AI 將 CUDA Tile 作業從 Python 轉換至 Rust
為何重要
此項突破降低了 GPU 核心從 Python 生態(含 Triton)移植至 Rust 的門檻,將 Rust 的記憶體安全特性帶入 Tile 編譯器架構,有助於抵禦 GPU 裝置端的記憶體安全漏洞與長期維護成本。對於追求安全性的產業極端運算(HPC)與 AI 工廠而言,這提供了一條通往高階 GPU 服務的安全且可移植的開發途徑。
NVIDIA 展示了一項由 AI 代理驅動的技術,能自動將 CUDA Tile 與 Triton-TileIR 的 GPU 核心轉譯為 Rust 程式,透過延續 Rust 的記憶體安全模式,維持與原生 Python 實作近似的 GPU 運算效能。
- 該 AI 代理成功移植了 TileGym 中的 24 個公開運運算元及總計約 40 個 GPU 核心。
- 在 NVIDIA DGX B200 硬體上,轉換後的 Rust 核心達到了平均 99.5% 的 cuTile Python 效能,且所有運運算元均通過 0.95 幾何加速比門檻。
- 轉換流程整合了受限多代理工作流,透過比對 Tile IR 的結構差異(diffing)在功能測試前進行機械化的正確性驗證。