GPTQ-2D：三次方時間的雙邊自適應捨入
為何重要
雙邊矩陣量化是提升模型精度的關鍵技術層面之一。gptq-2d 透過演算法層級的最佳化，大幅降低在複雜矩陣運算上的計算成本與時間，對於開發更高效的模型壓縮工具與調整推理資源分配具有直接的技術價值。
自適應捨入技術（如 GPTQ）通常採固定順序處理矩陣並回傳誤差；研究團隊將此推廣至雙邊場景（即同時作用於左、右兩側的非奇異基矩陣），原向量化方法在此情境下時間複雜度極高。
- 行複雜度最佳化：提出 gptq-2d 演算法，在產出結果一致的前提下，將計算複雜度從矩陣維度的「四次方」降至「三次方」。
- 單元組並行處理：演算法改以「反對角線」為單位進行捨入，同一反對角線上的元素相互獨立，可進行平行計算。