Fireworks Research 發表 Ember-1:以訓練演算法將推理模型 Token 消耗減少 40%
為何重要
這項釋出標誌著 AI 模型的最佳化方向從「堆砌算力的模型規模」轉向「模型內容策略與推理效率」。開發者長期受困於 Agent 多輪對話中成本激增的問題,Ember-1 證明透過規律訓練而非簡單調低引數來實現高效推理是可行的,這將顯著影響未來 AI Agent 開發套件(如 AutoGPT、ReAct)的設計方向與商業化可行性。
Fireworks Research 推出針對編碼與生成式 AI Agent 最佳化的專用模型 Ember-1,藉由訓練演算法讓 Kimi K3 在維持品質的同時減少 Token 使用,解決了傳統推理模型在多輪對話中成本因上下文呈指數式膨脹的痛點。
- 效能關鍵數字:Ember-1 維持 Kimi K3 的預測品質,但 Token 使用量減少約 40%;客戶 A/B 測試顯示每項任務約節省 35% Token。
- 技術突破:經過 50+ 筆訓練實驗與 200+ 次評估,開發出能壓縮冗長推理鏈的新訓練演算法,修正單純降低「推理難度」引數會犧牲準確度的問題。
- 業界基準:在 Doximity Bedside Bench 醫療臨床考題中,Ember-1 對上 GPT-5.6 Sol、GPT-6 Astra 與 Claude Opus 5,在成本與精確度表現上達到新的帕累託前沿。