ExLlamaV2 發布 0.2.8 版本,新增 Qwen2.5-VL 支援
為何重要
此次更新擴充套件了該推理工具所支援的模型版圖,讓開發者能更容易地部署 Qwen2.5-VL 進行應用開發。
ExLlamaV2 推出了 0.2.8 版本,此更新重點包含對 Qwen2.5-VL 模型的支援,並附帶一些次要的 Bug 修復。
此次更新擴充套件了該推理工具所支援的模型版圖,讓開發者能更容易地部署 Qwen2.5-VL 進行應用開發。
ExLlamaV2 推出了 0.2.8 版本,此更新重點包含對 Qwen2.5-VL 模型的支援,並附帶一些次要的 Bug 修復。