讓 AI 代理迭代 Rust 程式碼來跑得更快
為何重要
這項研究證明 LLM agent 正從單純的演算法解題演進為能進行低層系統最佳化的開發助手,對於須處理大量計算的領域(如 ML 庫)開發者來說,代表遺留系統維護與升級的門檻可能大幅降低。此外,成果反駁了模型只會「benchmaxxing」(刷基準測試)的刻板印象,證明在適當引導下,Agent 能理解並執行低階記憶體與編譯最佳化技巧。
作者在 2025 年初提出假設,透過持續要求 LLM agent 寫出「更快的程式碼」,探索是否能直接生成極速的 Rust 程式而不需依賴 Python。經 Opus 4.5 發表後驗證,限制使用 unsafe code 的現代 Agent 能寫出比當前最佳方法快很多的 Rust 程式碼,累計從 Opus 4.5 到 GPT-6 Astra 產生 7.5x-32x 的加速。實驗中使用 Rust 的 criterion 進行迭代基準測試,並透過長提示詞引導 Agent 聚焦於 SIMD、快取與記憶體管理等低階最佳化技巧。