Imagination 推出 E-Series GPU 多精度融合點積單元,低面積高效支援 AI 矩陣運算
為何重要
向量單元在處理混合精度及累加精度需求時常有先天效率不足,此設計提出了創新的資料通路重用架構,為 Edge AI 硬體設計提供了節省面積、維持精度的範例。若此技術能推動數值標準化程序,將有助於縮短 AI 模型從研究到硬體部署的轉換門檻。
為解決 AI 工作負載中多種數值格式(INT8、FP8、FP16、BF16)矩陣乘法帶來的算力擴充套件與電路面積挑戰,Imagination 發表新技術,利用獨特的重用邏輯架構來實現混合精度的高效運算。
- 新 E-Series GPU 內建多精度點積單元,支援 INT8、FP8、FP16、BF16 等格式的融合點積運算,並將輸入轉換為內部統一規範。
- 透過共用 INT8 基礎硬體並延伸至 EXPO(指數)處理來實作 FP8、FP16 與 BF16,相較於傳統為每種格式分設管線的設計,節省約 1/3 的電路面積。
- 技術已在 ARITH 2026 發表,經驗證準確度優於標準方法,且後向誤差分析確認其捨入誤差小於預期量化誤差。