ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

NVIDIA Vera Rubin 提升每瓦效能,為全球合作伙伴實現最低 Token 成本

硬體 1 個來源 · 13 天前
為何重要

Vera Rubin 的最大意義在於將 AI 工廠的設計從「通用元件拼湊」轉向「專用架構協同」,這將直接改變雲端廠商與資料中心營運商的資本支出結構。對開發者而言,Token 成本與頻寬的限制將被大幅打破,允許更大規模、更複雜的智慧體應用落地;對商業而言,微軟與 Mistral 在歐洲的佈局顯示 NVIDIA 生態已深度整合進跨國合規需求,未來 AI 市場的競爭核心將轉變為誰能擁有這種頂級的系統整合能力。

  • Vera Rubin 邁向十億瓦級規模部署:透過全棧協同設計提升每瓦效能與 Token 成本效益,CoreWeave、Google Cloud、Microsoft Azure 與 Oracle Cloud 等合作夥伴的機架已投入執行。
  • CoreWeave 測試效能躍升 10 倍:在執行 DeepSeek-R1 的基準測試中,Vera Rubin NVL72 相較 Grace Blackwell NVL72,每兆瓦 Token 吞吐量提升 10 倍,每百萬 Token 成本降至 1/10。
  • Vera CPU 極致最佳化:搭配特製 Olympus 核心的 Vera CPU,相比競品解決方案提升單執行緒效能 2 倍、核間頻寬 3 倍、記憶體延遲 40%,並實現編排速度 2.2 倍的提升。
  • 省電省水設計:機架實現無電纜、無風扇、現場組裝僅需 1 分鐘的極簡設計,並透過 45°C 高溫液冷與閉環系統,為新建 AI 工廠每年節省數百萬加侖水資源。
NVIDIAVera RubinAI FactoryVera CPUSpectrum-6

來源 · 1 篇報導

首發 NVIDIA 英偉達博客 blogs.nvidia.cn 10:00