ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

運算即核心:NVIDIA 以 BlueField-4 DPU 最佳化 Agentic AI 工廠

硬體 1 個來源 · 20 天前
為何重要

Agentic AI 的興起打破了傳統單點計算的限制,使得基礎設施(網路、儲存、安全)的面臨嚴重瓶頸。NVIDIA 此舉不再是單純提供 GPU,而是將 DPU(資料處理單元)定位為「AI 工廠的作業系統」,對照雲端廠商與通訊協定的設計方向具有極高指標性。若基礎設施無法即時處理 KV 快取遷移與租戶隔離,將直接導致 GPU 空轉,開發者與推論平臺必須關注這類硬體軟體協同解決方案。

Agentic AI 的推論運作模式改變基礎設計需求,不再將網路與儲存視為旁設,而是將其納入推論流程的資料路徑,NVIDIA 提出 BlueField 系列晶片用於減輕 CPU 負載、確保低延遲與隔離支援。

NVIDIABlueField-4Agentic AIDPUGrace CPUDOCA

來源 · 1 篇報導

首發 NVIDIA Technical Blog developer.nvidia.com 00:00