ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

ExLlamaV2 發布更新 v0.2.6,最佳化 Qwen2-VL 在 Windows 的推論相容性

工具 1 個來源 · 2 天前
為何重要

此版本解決了 Qwen2-VL 在 Windows 環境的部署痛點,提升了開發者在該作業系統上測試與除錯該模型的能力。

ExLlamaV2 釋出了版本 0.2.6 的更新,最顯著的改動在於修復了 Qwen2-VL 模型在 Windows 平臺上執行推理時的問題,同時也包含小幅度的錯誤修正。

ExLlamaV2Qwen2-VLWindowsLLMInference

來源 · 1 篇報導

首發 ExLlamaV2 Releases github.com 01:29