NVIDIA DGX Spark

開發者在 GitHub 釋出了 spark-vllm-docker 開源專案，專注於提供可在雙 DGX Spark 硬體上執行 VLLM 的 Docker 組態。該專案主要程式語言為 Shell，並累積了 1621 顆星的社群關注。

NVIDIA 在 GitHub 發布了 dgx-spark-playbooks 開源專案。該專案收錄一系列 Jupyter Notebook，旨在提供在具備 Blackwell 架構的 DGX Spark 裝置上部署 AI/ML 工作負載的詳細設定步驟。

GitHub 開源專案 atlas 是一個純 Rust 推理引擎。該專案約有 503 stars，支援 CUDA、dgx、dgx-spark、gb10 等硬體平臺，主打 LLM 推理，並支援 mamba、nvfp4 等技術，具備 OpenAI API 相容性。

開發者 tonyd2wild 在 GitHub 上分享 DeepSeek V4 Flash 視覺模型的執行最佳化配方，專門針對 NVIDIA DGX Spark 2x 配置進行調整。該計畫著重於在特定硬體架構上利用 NVFP4 格式實作高效的 1M Key-Value (KV) 快取。 - 專案名稱為 `tonyd2wild/DeepSeek-v4-Flash-Vison-Exp-DSpark-1M-NVFP4-KV-2x-DGX-Spark`。 - 目標硬體為兩臺 DGX Spark，目標是將 DeepSeek V4 模型最佳化並利用 1M NVFP4 KV 快取。 - 技術實作方向包含 DeepSeek V4 Flash Vision 實驗性功能，並主要使用 Python 撰寫。 - 目前該專案獲得 457 星標。

開發者於 GitHub 提交了一個專案，旨在提供一套針對未公開版 DeepSeek V4 模型的 Flash Vision 配置配方，透過調整硬體資源分配來最大化推論效率。 - 專案提供了在 2x DGX Spark 硬體組態下，使用 NVFP4 資料格式及 1M KV 快取的具體驗證方案。 - 此配置專注於 Vision 模態，旨在解決該伺服器規格下的資源負載問題。 - 檔案主要使用 Python 開發，目前持續累積 457 個星標。

社群專案 spark-arena/sparkrun 已於 GitHub 開源，提供工具讓開發者能在 NVIDIA DGX Spark 系統上輕鬆部署與管理 LLM 推理工作負載。該專案主要以 Python 撰寫，並針對 Llama.cpp、SGLang 和 vLLM 等框架進行最佳化。

GitHub 開源專案 MiaAI-Lab/Qwen3.8-Flash-Next-Single-DGX-Spark 展示了 Qwen3.8-Flash-Next 基礎模型在單臺 DGX Spark 系統上的執行設定。 專案強制使用者一機一網絡卡的並行模式 (TP=1) 來進行部署。 專案實作語言以 Python 為主，目前累積約 337 顆星。

GitHub 開源專案 MiaAI-Lab 推出針對兩臺 DGX Sparks 硬體節點的 GLM-5.3 Flash EXL3 模型部署方案，目前標示主要程式語言為 Python，並在公開平臺上累積約 309 個熱星。 - **模型與硬體專名對應**：專案命名明確指向 **GLM-5.3 Flash EXL3** 模型，並限定執行環境為 **2x DGX Sparks**。 - **技術標籤與開源屬性**：該套件屬於 EXL3 推理格式家族，內碼主要使用 **Python** 撰寫。 - **社群互動熱度**：截至公開資訊顯示，該專案已獲約 **309** 個 GitHub star。

GitHub 開源專案 AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-DFlash 提供了針對 DGX Spark 與 Blackwell 硬體的 Qwen3.6-27B 模型最佳化方案。該專案實作了零消費量（Zero-allocation）的無損失內容移除，並支援 NVFP4 硬體量化，檔案分別為 BF16 的 51 GB 與 NVFP4 的 26 GB，同時附帶 Docker Compose 設定與快速啟動指南。