ExLlamaV2 發布 v0.2.7 版本更新
為何重要
此更新讓開發者能更便捷地部署支援新架構的多模態模型。
ExLlamaV2 推出了 v0.2.7 版本,新增了對 Qwen2-VL 的基礎視訊支援,並擴充了對 Cohere2 架構與 Granite3 架構的支援範圍,同時修復了若干程式錯誤。
此更新讓開發者能更便捷地部署支援新架構的多模態模型。
ExLlamaV2 推出了 v0.2.7 版本,新增了對 Qwen2-VL 的基礎視訊支援,並擴充了對 Cohere2 架構與 Granite3 架構的支援範圍,同時修復了若干程式錯誤。