Nvidia 推出客製化 NVHBM：頻寬高出 30%、功耗低 15%
為何重要
NVHBM 的推出強化了 Nvidia 在 AI 硬體生態中的系統級主導地位，讓開發者能透過 NVLink Fusion 輕鬆獲得更高效的記憶體堆疊，不必自行研發高難度基礎硬體。雖然目前偏向客製晶片市場，但有助於 AWS 等客戶整合自有晶片（如 Trainium 4）以提升 AI 系統的價效比與效能。這顯示 Nvidia 正致力於將「軟硬體整合」的策略深化至記憶體層級，鞏固其在 AI 基礎建設上的護城河。
Nvidia 隨著 NVLink Fusion 計畫推出了新款客製化高頻寬記憶體（NVHBM），旨在協助客製矽開發者建構具備更高吞吐量與能源效率的 AI 加速器解決方案。此技術替代傳統計算晶片上的記憶體控制器，並與領先記憶體供應商合作，提供比基於暫時性標準的基礎晶片更快進入市場的途徑。
- 每層堆疊頻寬比第 4 代商業 HBM (HBM4e) 高出 30%，針對記憶體頻寬受限的工作負載可提升推理速度。
- 比商業 HBM4e 應用程式堆疊功耗降低 15%，節省的能量可用於提升效能並支援同一電力封裝內更多晶片。
- 將記憶體控制器與小型定製 PHY 移至 HBM 堆疊的基礎晶片中，為主要加速器晶片佔位騰出 30% 的空間，專供計算使用。
- 由 Nvidia 與「領先記憶體供應商」設計和驗證，作為給 NVLink Fusion 合作夥伴的工具包，以縮短客製矽產品上市時間。