從兆瓦到代幣:NVIDIA 如何最大化 AI 工廠生產力
為何重要
此舉標誌著「電力即算力」瓶頸的現實解決方案:透過動態功耗分配與電網排程,業者不必等待幾年興建輸電線,即可在既有場域內提升算力密度。對於開發者,意味著更穩定的算力供應;對於矽供應鏈,則是證實軟體層最佳化能提升硬體利用率,進而增強對新一代 GPU 的投資信心。
面對日益嚴峻的電力侷限,NVIDIA 推出跨層級軟硬體解決方案 DSX,旨在透過動態排程與電網參與,在不增加硬體建設的前提下提升 AI 工廠的算力產出。
- 在矽谷電力負載尖峰時,NVIDIA 資料中心驗證透過 Emerald AI 的「Conductor」平臺,自動將功耗從 4MW 降至 3MW,且不中斷優先順序高的 AI 工作負載,且矽谷電力已傳送超過 200 個此類需求回應訊號。
- Lambda 在 5 個機櫃的超過 19 個節點上驗證了 NVIDIA DSX MaxLPS,在同一功率預算下,將叢集總輸出令牌吞吐量提高 24%(約 400 萬至 500 萬 tokens/s),算力效率提升約 23%。
- NVIDIA 宣佈維吉尼亞州的 96MW Vera Rubin AI 工廠將是首款專用商業部署「DSX Flex」的地點,並計畫在下一世代 GPU 架構中整合 800V DC 電力路徑以支援更密集的計算機櫃。