AMD 收購 Taalas,佈局模型專用推理晶片
為何重要
這項收購標誌著 AMD 正積極從「通用加速器」轉向「硬體專用化」的產品策略,彌補了 Instinct 產品線在極端專注場景下的效能短板。對於開發者而言,雖然「一模型一晶片」帶來了過多的部署靈活性代價,但在處理特定的高流量模型時,這種架構能顯著壓縮運算與記憶體開銷。產業此舉反映出推理市場正尋求比蒸汽機式的 GPU 更高能效比的解決方案。
AMD 宣佈收購專注於模型特定演算法的推理晶片公司 Taalas,策略上從通用的可程式化晶片轉向硬體焊接特定模型,以換取大規模推論的極致效能。Taalas 現階段的 HC1 技術展示品採用 TSMC 6nm 製程,具有 815 平方毫米的晶片面積與 53 億個電晶體。該品宣稱可從單一晶片推論 Llama 3.1 8B 模型並達到每使用者每秒 17,000 tokens 的速度。與通用 GPU 不同,更改模型權重僅需更換兩層 mask」,大幅降低了生產成本,亦適合穩定且高流量的計算任務。