Micron：適應 AI 的記憶體架構演進
為何重要
許多大型語言模型的效能進步受限於記憶體與封裝的擴張，導致開發者須面對更高的矽成本、熱設計功耗以及更複雜的晶片系統級封裝；對投資人而言，先進封裝產能、高頻寬儲存器供應鏈及液冷解決方案的採用率將直接重塑 AI 硬體產業的利基市場結構。
背景脈絡：Micron 在 Hot Chips 2026 演講中，探討記憶體在擴充套件 AI 語言模型中的核心角色，指出加速器運算效能提升速度已追不上記憶體頻寬成長，導致「記憶體牆」成為系統效能瓶頸。
關鍵事實:
- AI 加速器 TFLOPS 每 2 年增長約 3 倍，而 HBM 頻寬成長低於 2 倍 / 2 年。
- 典型搭配 8 個 HBM4 例項的 GPU 封裝面積超過 1.2 萬平方毫米。
- 使用 12-high HBM4 時，記憶體長方晶圓面積可超過 GPU die 本身的 8 倍。
- 交付同等 HBM3E 容量所需的矽面積約為 DDR5 的 3 倍。