使用 DSpark 雜湊草案技術加速 Liquid AI 的視覺語言模型 LFM2.5-VL
為何重要
對開發者而言，此舉證明瞭即使在 Edge 裝置與雲端都能透過微幅引數成本獲得顯著的解碼速度提升；但文中亦揭露 VLM 系統在預填階段的瓶頸，暗示端到端效能仍受限於整體 pipeline 的算力分配。 對產業競爭來看，Liquid AI 提供了低門檻的最佳化範本（DSpark 標準），透過全面整合主流推論框架提升開源 VLM 的部署吸引力，這有助於縮小開源模型與閉源模型在實務應用的體驗落差。
Liquid AI 為其 LFM2.5-VL-3B 視覺語言模型發布實驗性 DSpark 草案模型，透過雜湊草案技術在不損失輸出品質的前提下換取更快的推理速度。
- 效能收益：在裝置端解碼加速最高 3.13 倍，H100 上最高 2.66 倍；端到端延遲最佳化最高 2.62 倍。
- 成本控制：草案模型額外增加 280M 引數，僅佔目標模型 3B 的 8.9%。
- 生態支援：開箱支援 llama.cpp、MLX-VLM 與 SGLang，適用於 Apple M3 Ultra 與 H100 等硬體。
- 運作原理：草案模型複用目標模型的隱藏狀態訊號，在相同維度向量上進行預測，僅加速解碼階段而無法改善預填或視覺編碼時的延遲。