ExLlamaV2 新增 Qwen3 與 Qwen3MoE 支援
為何重要
這項更新為 Qwen 系列模型提供了最佳化的本地推論途徑,讓開發者能更輕鬆地在受限環境中部署最新的技術。
ExLlamaV2 推出 0.3.0 版本,正式新增對 Qwen3 以及 Qwen3MoE 模型的支援,擴充了該推論框架的模型相容性。開發者現在可以透過此更新更方便地部署與執行這些最新的模型版本。
這項更新為 Qwen 系列模型提供了最佳化的本地推論途徑,讓開發者能更輕鬆地在受限環境中部署最新的技術。
ExLlamaV2 推出 0.3.0 版本,正式新增對 Qwen3 以及 Qwen3MoE 模型的支援,擴充了該推論框架的模型相容性。開發者現在可以透過此更新更方便地部署與執行這些最新的模型版本。