無問芯穹聯合清華、上交開源具身端側推理引擎 APXInf，Pi 0.5 效能達 SOTA
為何重要
APXInf 的發布推動具身智慧生態從「模型訓練」走向「端側部署」的關鍵一環，採用 Rust 與 Agentic Engineering 架構的設計為行業樹立了新的標竿。此工具大幅降低了開發者引入具身模型的工程門檻，加速了消費級與工業級機器人在真實場景中的落地時程，同時將國產算力（如 RTX 4090 和相對應晶片）的生態系統納入考量。
無問芯穹聯合清華大學與上海交通大學正式發布開源具身智慧端側推理引擎 APXInf，旨在解決機器人因算力有限而無法實現即時反應的痛點。此專案專注於有限的算力資源與低延遲需求，支援從模型開發到機器人本體部署的完整鏈路。
- 硬體支援涵蓋 RTX 4090、Jetson Orin 及 Jetson Thor 等主流計算平臺。
- 利用 Agent4Kernel 技術與定製化執行時，在 Jetson Thor 上將 PI 0.5 FP8 的端到端推理延遲從 278ms 降至 26 ms 以內（降幅逾 10.7 倍）。
- 在 FP8 精度下保持 38.46Hz 的推論頻率，滿足機器人即時控制所需的低延遲與高響應速度。
- 採用 Rust 構建系統及 Python 介面，強調系統穩定性的同時兼顧開發便利性。