MindForge:透過無源程式合成教導小型語言模型全生命週期軟體工程
為何重要
這項成果證明瞭透過精心設計的全生命週期訓練環境與合成資料,中型語言模型(如 Qwen3.6-27B)在不增加引數規模的情況下,就能突破從零開發程式的瓶頸,表現接近大型模型。這對於降低企業部署開發型 Agent 的門檻具有積極意義,未來在微調策略上,資料管道的品質與設計將比單純的模型規模更具關鍵影響。
在程式碼代理能夠有效修改現有程式庫的時代,從零開始構建完整程式仍是關鍵挑戰。為解決缺乏可擴充套件的訓練環境問題,研究提出 MindForge,將開源指令列程式轉換為僅暴露編譯後可執行檔的來源環境。
- MindForge 利用 GLM-5.2 作為老師代理,從與 ProgramBench 分離的儲存庫中製作高品質的程式合成軌跡資料。
- 微調後的 Qwen3.6-27B 在 ProgramBench 上的平均測試通過率從 37.98% 提升至 49.51%。
- 微調模型在七個未見過的軟體工程基準測試上皆優於基線模型,在 RepoZero-C2Rust 等任務上實現了超過 10 分的顯著提升。