多頭潛在控制:通用 LLM Agent 決策介面
為何重要
此技術為如何動態決策 Agent 行為提供了新解法,解決了當前依賴顯式 Prompt 或外部 Orchestration 的高成本痛點。對開發者而言,這代表著在不更換底層模型的情況下,能大幅最佳化推理成本與決策品質;對產業而言,在營運階段降低強大模型的使用率是提升商業利潤關鍵。
現有的 LLM Agent 控制方式多依賴提示級路由或外部編排,維護成本高昂且難以適應模型變化。研究團隊提出「多頭潛在控制」,作為輕量化層透過讀取凍結模型的隱藏狀態軌跡來產生部署時的決策訊號。
- 技術引入 Capability Head 來判斷當前模型能力是否足以解決任務,並引入 Resolution Head 來決定下個動作是尋求澄清或使用工具。
- 該方法僅利用凍結模型內部的潛在軌跡進行訓練,能在不修改模型權重的前提下進行事後適應。
- 在多模型路由執行架構(小模型呼叫大模型)中,在 AndroidWorld 上可將大模型使用次數降低最高 90.7%,平均降低 27-53%,並保留絕大部分效能。
- 在工具使用決策場景下,相對分數提升最高 158%,且使錯過必要工具呼叫的情況減少了 65.5%。