ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

NVIDIA 支援基準測試 確認 Blackwell 領先代理 AI 效能

硬體 2 個來源 · 4 天前
為何重要

AgentPerf 為日益複雜的代理 AI 工作負載建立了客觀標準,幫助開發者評估工具串聯與多步驟推理情境下的實際轉換效率,這對於精確衡量每瓦建設成本與部署規模至關重要。

新推出的 AgentPerf 首個代理 AI 基準測試結果顯示,NVIDIA Blackwell Ultra NVL72 平臺表現領先,在執行 DeepSeek V4 Pro 模型時,相較 Hopper 架構,每瓦功率可執行多達 20x 的代理數量。這項優勢來自全堆疊的極致協同設計,透過將 72 GPUs 整合至機架規模系統,並利用 CUDA kernels 加速通訊與運算的重疊,讓 TensorRT LLM 能在擴充套件並發會話時維持高效能。

NVIDIABlackwellGB300DeepSeek V4 ProAgentPerf

來源 · 2 篇報導

首發 NVIDIA Blog blogs.nvidia.com 05:00 首發 NVIDIA Newsroom blogs.nvidia.com 05:00