NVIDIA DGX Spark

開發者在 GitHub 釋出了 spark-vllm-docker 開源專案，專注於提供可在雙 DGX Spark 硬體上執行 VLLM 的 Docker 組態。該專案主要程式語言為 Shell，並累積了 1621 顆星的社群關注。

NVIDIA 在 GitHub 發布了 dgx-spark-playbooks 開源專案。該專案收錄一系列 Jupyter Notebook，旨在提供在具備 Blackwell 架構的 DGX Spark 裝置上部署 AI/ML 工作負載的詳細設定步驟。

GitHub 開源專案 atlas 是一個純 Rust 推理引擎。該專案約有 503 stars，支援 CUDA、dgx、dgx-spark、gb10 等硬體平臺，主打 LLM 推理，並支援 mamba、nvfp4 等技術，具備 OpenAI API 相容性。

社群專案 spark-arena/sparkrun 已於 GitHub 開源，提供工具讓開發者能在 NVIDIA DGX Spark 系統上輕鬆部署與管理 LLM 推理工作負載。該專案主要以 Python 撰寫，並針對 Llama.cpp、SGLang 和 vLLM 等框架進行最佳化。

GitHub 開源專案 AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-DFlash 提供了針對 DGX Spark 與 Blackwell 硬體的 Qwen3.6-27B 模型最佳化方案。該專案實作了零消費量（Zero-allocation）的無損失內容移除，並支援 NVFP4 硬體量化，檔案分別為 BF16 的 51 GB 與 NVFP4 的 26 GB，同時附帶 Docker Compose 設定與快速啟動指南。

開發者 albond 於 GitHub 發布名為 DGX_Spark_Qwen3.5-122B-A10B-AR-INT4 的開源專案，針對 NVIDIA DGX Spark 硬體平臺進行深度效能調校。專案修改了模型量化與執行引數，成功將量大模型 Qwen3.5-122B-A10B 的推理速度從 28.3 tok/s 提升至 51 tok/s (+80%)。其技術細節涉及無損量化、自動正規化以及在 GPU 上執行 MTP (Multi-Token Prediction) 等技術。

GitHub 開源專案 natolambert/dgx-spark-setup 提供了一份詳細的設定手冊，教導開發者如何在具備 GB10 Blackwell GPU 的 NVIDIA DGX Spark 裝置上進行機器學習訓練，並支援 CUDA 13 與 aarch64 架構。

開發者發布了一個針對 NVIDIA DGX Spark 的 CUDA 效能分叉專案，旨在提升特定推理任務的運算速度。 - 專案支援單行指令安裝，開箱即用。 - 推理效能顯著優於上游版本，其中 prefill 模區約快 3 倍，decode 模區約快 1.5 倍。 - 整合 DSpark 與完整連續批次（continuous batch）支援。

GitHub 使用者 mark-ramsey-ri 發布了名為 vllm-dgx-spark 的開源專案，讓開發者能夠在 NVIDIA DGX Spark 伺服器上使用 vLLM 執行 LLM。該專案支援從單一 Spark、雙機直連，或是三臺以上透過 Fabric 連線的擴充套件部署模式。