NVIDIA 支援基準測試 確認 Blackwell 領先代理 AI 效能
為何重要
AgentPerf 為日益複雜的代理 AI 工作負載建立了客觀標準,幫助開發者評估工具串聯與多步驟推理情境下的實際轉換效率,這對於精確衡量每瓦建設成本與部署規模至關重要。
新推出的 AgentPerf 首個代理 AI 基準測試結果顯示,NVIDIA Blackwell Ultra NVL72 平臺表現領先,在執行 DeepSeek V4 Pro 模型時,相較 Hopper 架構,每瓦功率可執行多達 20x 的代理數量。這項優勢來自全堆疊的極致協同設計,透過將 72 GPUs 整合至機架規模系統,並利用 CUDA kernels 加速通訊與運算的重疊,讓 TensorRT LLM 能在擴充套件並發會話時維持高效能。