限制行為漂移最佳化：在垂直調適中「方向」比「幅度」更重要
為何重要
對開發者而言，這項研究提供了一種新的垂直調適邏輯，即「如何傳送更新」的重要性高於「更新了多少」，有助於在 API 部署或 End-user 場景中避免因微調損害模型的核心能力；對產業而言，Qwen3 系列展現了在多語言及邏輯調適上的強大潛力，直接回應了多語言 AI 與企業級邏輯推理的需求。
針對模型垂直調適過程中常見的「行為漂移」問題（即目標效能提升卻損害原有能力），研究提出了一種限制性的最佳化框架，將微調過程重新定義為在預算下的「方向選擇」問題。
- 研究指出，行為漂移定義了一個幾何空間的邊界，微調的有效性取決於更新向量的「方向」而非單純的「幅度」。
- 在 Qwen3-8B 與 Qwen3-14B 等模型上驗證，透過特定方法找到的「有效方向」能顯著改善科學推理與多語翻譯表現，同時維持推理與泛化能力。
- 實驗結果顯示，這些模型在超過 100 種語言上的翻譯效能，已能比肩甚至超越專用的翻譯系統。
- 該研究為後續的強化學習（RL）提供了更強的初始化設定。