ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

利用 Agentic AI 將 CUDA Tile 作業從 Python 轉換至 Rust

工具 1 個來源 · 6 天前
為何重要

此項突破降低了 GPU 核心從 Python 生態(含 Triton)移植至 Rust 的門檻,將 Rust 的記憶體安全特性帶入 Tile 編譯器架構,有助於抵禦 GPU 裝置端的記憶體安全漏洞與長期維護成本。對於追求安全性的產業極端運算(HPC)與 AI 工廠而言,這提供了一條通往高階 GPU 服務的安全且可移植的開發途徑。

NVIDIA 展示了一項由 AI 代理驅動的技術,能自動將 CUDA Tile 與 Triton-TileIR 的 GPU 核心轉譯為 Rust 程式,透過延續 Rust 的記憶體安全模式,維持與原生 Python 實作近似的 GPU 運算效能。

  • 該 AI 代理成功移植了 TileGym 中的 24 個公開運運算元及總計約 40 個 GPU 核心。
  • 在 NVIDIA DGX B200 硬體上,轉換後的 Rust 核心達到了平均 99.5% 的 cuTile Python 效能,且所有運運算元均通過 0.95 幾何加速比門檻。
  • 轉換流程整合了受限多代理工作流,透過比對 Tile IR 的結構差異(diffing)在功能測試前進行機械化的正確性驗證。
NVIDIARustAI AgentcuTileGPU KernelTileGym

來源 · 1 篇報導

首發 NVIDIA Technical Blog developer.nvidia.com 00:28