NVIDIA 發布 Nemotron 3.5 Lightning 與 DGX Spark 程序更新,深耕本地開源 AI 生態
為何重要
這波更新顯示 NVIDIA 正試圖通過軟體與工具的強化,解決本地執行大型開源模型(特別是 MoE)的使用門檻與資源瓶頸。對開發者而言,這意味著免費盜版與本地部署牆的降低,有機會刺激個人開發者的創新;對產業而言,這鞏固了 DGX 系列作為企業級叢集訓練與推理首選的生態地位,開源策略的深化有助於潛在客戶評估整合本地的收益。
NVIDIA 近期透過發布 Nemotron 3.5 Lightning 等新模型以及 DGX Spark 的軟體最佳化,引領本地 AI 社群在邊緣端部署與執行高效基礎模型的趨勢。
- Nemotron 3.5 Lightning 為 30 億引數的開放權重 MoE 模型,Token 生成速度與任務完成速度分別提昇高達 4 倍與 30%。
- NeMo Switchyard 作為開源路由庫,透過模型間的自動路由,將成本降至約 Opus 4.8 的三分之一。
- LTX-2.5 針對 RTX 與 DGX Spark 最佳化,效能提升 2 倍,記憶體佔用降低 40%,並支援 NVFP4 與 ComfyUI 工作流。
- DGX Spark 推出了利用 NVIDIA Sync Cluster Assistant 建立叢集的新功能,並原生支援 ARM64 Linux 的原生 Chrome 瀏覽器。