NVIDIA 發布 Nemotron 3.5 Lightning 與 NeMo Switchyard 強化開源代理 AI 生態
為何重要
這項發布標誌著自主代理從單一聊天模型轉向「模型系統」或「混合模型架構」的重要轉變。對於開發者而言，NeMo Switchyard 解決了在複雜系統中手動管理多個模型路由的痛點，大幅降低了整合門檻與運算成本。對於產業，這證明瞭 NVIDIA 的策略不僅限於硬體供應，更透過軟體層（如路由函式庫）介入代理應用的運作核心，將 NVIDIA 硬體生態（RTX、Jetson、DGX Series）鎖定為企業部署代理系統的首選基礎建設。
隨著 AI 從聊天機器人轉向自主代理，NVIDIA 推出 Nemotron 3.5 Lightning 以支援高效率的長期代理工作負載，並發布 NeMo Switchyard 開源路由函式庫，協助企業建構更聰明、具成本效益的代理應用系統。
- Nemotron 3.5 Lightning 是一款 300 億引數的 MoE 模型，其輸出速度最高可達同類產品的 4 倍，且代理任務完成速度加快 30%。
- NeMo Switchyard 透過自動將請求路由至最合適的模型，內部基準測試顯示能將任務成本降至約前端模型 Opus 4.8 的三分之一，同時維持前沿準確度。
- 兩款產品支援從本地 NVIDIA RTX PC、DGX Spark 到雲端的廣泛部署，CrowdStrike 與 Harvey 等等線上服務提供商已利用其提升領域特定代理任務的準確度。