NVIDIA

名為 TokenSpeed 的 GitHub 開源專案主打速度極快的 LLM 推理引擎功能，主要使用的程式語言為 Python。該專案旨在提升模型執行效率，目前正針對 DeepSeek、Kimi、Minimax 等多種模型進行最佳化。

NVIDIA 在 GitHub 發布了 dgx-spark-playbooks 開源專案。該專案收錄一系列 Jupyter Notebook，旨在提供在具備 Blackwell 架構的 DGX Spark 裝置上部署 AI/ML 工作負載的詳細設定步驟。

GitHub 開源專案 atlas 是一個純 Rust 推理引擎。該專案約有 503 stars，支援 CUDA、dgx、dgx-spark、gb10 等硬體平臺，主打 LLM 推理，並支援 mamba、nvfp4 等技術，具備 OpenAI API 相容性。

社群專案 spark-arena/sparkrun 已於 GitHub 開源，提供工具讓開發者能在 NVIDIA DGX Spark 系統上輕鬆部署與管理 LLM 推理工作負載。該專案主要以 Python 撰寫，並針對 Llama.cpp、SGLang 和 vLLM 等框架進行最佳化。

GitHub 新增開源專案 「AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-DFlash」，主打在 **DGX Spark** 或 **Blackwell** 硬體環境下，以 NVFP4 硬體量化技術對 Qwen3.6-27B 模型進行無損擦除（Lossless abliteration）與擴充。專案提供了 BF16 (51 GB) + NVFP4 (26 GB) 的部署指南、docker-compose 配置檔及快速入門指令碼，方便開發者以此提升模型效能。

GitHub 使用者 albond 公開了一個於 DGX Spark 硬體平臺上執行 Qwen3.5-122B-A10B 模型的最佳化專案。該版本採用 INT4 量化與 MTP 等技術，透過 lossless 量化策略，將單序列推理速度從 28.3 token/s 大幅提升至 51 token/s，增幅達 80%。

位於 GitHub 的開源專案 natolambert/dgx-spark-setup 提供詳細的設定指南，協助開發者在 NVIDIA DGX Spark 裝置上進行 Machine Learning 訓練。該指南支援最新的 GB10 Blackwell 架構以及 CUDA 13 環境。

Avarok-Cybersecurity 推出 dgx-vllm 開源專案，致力於建立一個經過最佳化的最新版 vLLM Docker 映像。此團隊以 CUDA 技術為基礎，旨在針對 DGX 硬體平臺提供全面且具備高階效能的支援。

一個新的 GitHub 開源專案支援在 1 對 N 的 NVIDIA DGX Spark 伺服器叢集上執行 vLLM。這個工具支援單機、雙機直連或透過 switched fabric 連線多機的部署模式，方便開發者佈署或評測大型語言模型。