NVIDIA 展示 Vera Rubin 與 DSX 平臺的每瓦特效率目標
為何重要
隨著 AI workload 從單次請求轉向複雜的 Agent 鏈條，每瓦特的效率直接決定了 AI 工廠的營收上限。NVIDIA 將效益最佳化層級從晶片擴充套件至軟體與電網管理，這迫使後進者必須追隨此「工廠級整合」的架構路徑，並改變了硬體供應商從單純賣卡轉向「壽命週期最佳化」的商業邏輯。
NVIDIA 在 AI 基礎設施展中將焦點從單純算力峰值轉向最佳化「每瓦特代幣」，強調透過軟硬體整合的 AI 工廠平臺來滿足 Agent workload 的需求。
- Amazon Annapurna Labs 與 NVIDIA 合作開發 NVHBM 高頻寬記憶體；d-Matrix 透過 NVLink Fusion 整合 Vera Rubin CPU 與 Raptor XPU 來實現低延遲推理。
- 合作夥伴 Lambda 首度驗證了 NVIDIA Blackwell 與 DSX MaxLPS，在相同功率預算下吞吐量增加 24% 至約 500 萬 tokens/s，並將效能/瓦特提升 23%。
- 依照實際 Agent 會話測試的 SemiAnalysis AgentX 基準中，Vera Rubin NVL72 對比 GB300 NVL72 在 DeepSeek V4 Pro 的吞吐量/瓦特上提升 30 倍。
- Emerald AI 與議價電力公司 Silicon Valley Power 合作，利用 DSX Flex 接收電網訊號並暫停低優先順序 AI 任務，以參與電網需求響應並最佳化電源使用。