為何算功耗效能是 AI 基礎設施效率的唯一指標
為何重要
這標誌著 AI 競爭主軸從單純的算力堆疊轉向「能效效能比」,直接影響下游 AI 公司的邊際利潤與擴張速度。NVIDIA 透過軟硬體的極致協同,將節能轉化為商業護城河,同時利用開源模型作為效率測試平臺,驗證並鞏固其架構的行業標準地位。
在電力預算約束日益嚴格的背景下,AI 工廠的獲利能力直接取決於系統能產生多少 Token,因此「每瓦效能」成為決定能否大規模擴張的關鍵。NVIDIA 透過 Blackwell NVL72 平臺與下一代 Vera Rubin 架構的端到端程式碼協同設計,展示了顯著的能效提升,並透過 Softwar 將能源效率極致化,使能夠在成本與效能之間遊刃有餘的供應商脫穎而出。
- GB300 NVL72 系統相較 NVIDIA Hopper 代,在 DeepSeek V4 Pro 上展現高達 25 倍的效能/瓦數。
- 同級系統在 GLM5.1 與 Kimi K2.6(針對長時間代理任務)上的效能/瓦數分別提升了 20 倍與 10 倍。
- NVIDIA DSX MaxLPS 軟體利用功率 Steering 與暖水液冷等技術,讓營運商在固定電力預算下可執行多達 40% 的 GPU。
- 產業採用端:CoreWeave 部署 Kimi K2.6,Perplexity 服務 Qwen3 系列模型,Fireworks AI 執行 GLM 5.2。