ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

Nvidia PAIR 將家中 PC GPU 組成分散式 AI 叢集,降低端側運算門檻

工具 1 個來源 · 19 天前
為何重要

這項技術將本地側運算從單機架構向前邁進到網路協同架構,陞級了端側 AI Agent 的效率邏輯;對 Nvidia 而言,這鞏固了其 CUDA 與軟體生態的護城河,將一般消費者與工作站的潛在算力納入其 AI 基建版圖;對開發者則提供了在雲端之外的可控、低成本推論選項,排除了傳統單 GPU 瓶頸。

Nvidia 在 IFA 2026 推出名為 Personal AI Router (PAIR) 的軟體工具,旨在將使用者家中運算資源靈活串聯成可處理 Agentic AI 分散式任務的本地算力網路,藉此節省雲端算力成本並維護資料隱私。

  • 該工具作為 LM Studio 與 Ollama 等熱門前端的網路代理,協調網路內的 GPU 參與算力,且參與節點不需下載完全相同的模型也能成員設定。
  • 支援平臺涵蓋 GeForce RTX 20 系列及以上顯示卡、DΞX Spark (或 GB10) 算力箱,以及執行 M4 系列以上處理器的 Mac,並跨支援 Windows、macOS 與 Linux。
  • PAIR 採用彈性架構設計,不保留永久算力配額,而是根據節點當前的閒置狀態動態派發任務,因此無法保證嚴格的服務品質但適合長時間執行的運算任務。
NvidiaPAIRAgentic AIGPU ClusterLocal InferenceMicroservices

來源 · 1 篇報導

首發 Tom's Hardware tomshardware.com 00:00