ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

NVIDIA Vera:專為 AI 智慧體迴圈打造的極致單執行緒 CPU

硬體 1 個來源 · 13 天前
為何重要

過去資料中心 CPU 的設計受雲端運算興起影響,過度著重多核心擴充以降低單核成本,縮減了運算資源在高頻運用上的極限。Vera 的推出證明在 AI 智慧體這類依賴「微秒級」反饋的場景下,單執行緒效能與記憶體頻寬比核心數量更為關鍵,這可能會重組未來 AI 架構中 CPU 應用的價值鏈。同時,這也鞏固了 NVIDIA 在 AI 基礎建設 cycles(GPU 為推理,CPU 為迴圈邏輯)的垂直整合優勢。

NVIDIA 推出代號為 Vera 的新一代 CPU,改變了傳統資料中心追求與低成本平衡的演進方向,專為 AI 智慧體持續且高頻率的迴圈運作而最佳化,解決 GPU 等待 CPU 的瓶頸問題。

  • 採用專屬的 "Olympus" 核心,其 IPC 相較 NVIDIA Grace 提升 50%,在代表智慧體執行的高負載 CPU 工作負載下,持續單核效能達到 x86 的 1.8 倍。
  • 搭載高達 1.2TB/s 的 LPDDR5X 記憶體頻寬,並在功耗僅 40 瓦下提供 3.4TB/s 的核心間頻寬(比一般資料中心 CPU 高 3 倍),確保全部 88 個核心皆能發揮完整記憶體效能。
  • Perplexity 實測 Vera 在編碼工作流中速度達 x86 的 1.5 倍,並發啟動沙箱最高 1.9 倍;在 Starburst SQL 分析中速度提升 3 倍,Redpanda 低延遲場景下 latency 降低 1/6。
  • Vera 將成為 NVIDIA Rubin 平臺的宿主 CPU,且 NVIDIA 下一代 Rosa CPU 將預計搭載效能更強的 "Rigel" 核心。
NVIDIAVeraOlympus CoreAI AgentRubinGrace

來源 · 1 篇報導

首發 NVIDIA 英偉達博客 blogs.nvidia.cn 13:00