NVIDIA Vera Rubin 提升每瓦效能,為全球合作伙伴實現最低 Token 成本
為何重要
Vera Rubin 的最大意義在於將 AI 工廠的設計從「通用元件拼湊」轉向「專用架構協同」,這將直接改變雲端廠商與資料中心營運商的資本支出結構。對開發者而言,Token 成本與頻寬的限制將被大幅打破,允許更大規模、更複雜的智慧體應用落地;對商業而言,微軟與 Mistral 在歐洲的佈局顯示 NVIDIA 生態已深度整合進跨國合規需求,未來 AI 市場的競爭核心將轉變為誰能擁有這種頂級的系統整合能力。
- Vera Rubin 邁向十億瓦級規模部署:透過全棧協同設計提升每瓦效能與 Token 成本效益,CoreWeave、Google Cloud、Microsoft Azure 與 Oracle Cloud 等合作夥伴的機架已投入執行。
- CoreWeave 測試效能躍升 10 倍:在執行 DeepSeek-R1 的基準測試中,Vera Rubin NVL72 相較 Grace Blackwell NVL72,每兆瓦 Token 吞吐量提升 10 倍,每百萬 Token 成本降至 1/10。
- Vera CPU 極致最佳化:搭配特製 Olympus 核心的 Vera CPU,相比競品解決方案提升單執行緒效能 2 倍、核間頻寬 3 倍、記憶體延遲 40%,並實現編排速度 2.2 倍的提升。
- 省電省水設計:機架實現無電纜、無風扇、現場組裝僅需 1 分鐘的極簡設計,並透過 45°C 高溫液冷與閉環系統,為新建 AI 工廠每年節省數百萬加侖水資源。