即時記憶：為 LLM Agent 構建任務適配記憶機制
為何重要
這項研究顛覆了傳統 Agent 記憶管理的「先存後取」思維，改為「先檢後整」的動態機制，有效解決了 RAG（檢索增強生成）場景中記憶冗餘與長序列任務適配難的痛點。對於開發者而言，這意味著未來的 Agent 訓練不再僅需依賴終局獎勵，更可利用即時的選擇正確性來最佳化策略；對產業而言，這種架構最佳化能直接提升代理人在複雜推理工序（如編碼、運作機械人）中的穩定性。
現有的 LLM Agent 記憶系統通常在寫入時預先決定要儲存經驗摘要，導致無法靈活應對未來的多樣化查詢。研究提出 Just-in-Time Memory (JitMem) 框架，改為保留原始軌跡並在收到新任務時進行「讀取時」的動態整理。此方法透過解決傳統設計的長天期信貸歸因難題，大幅提升了代理人在複雜環境中的效能。
- 在 ALFWorld 基準中勝出，成功率高於最佳基線 16.2 點。
- 在 WebShop 基準中成功率高於最佳基準 16.3 點。
- 在 τ^2-bench 基準中成功率高於最佳基準 3.9 點。
- 研究發現即便 untrained curator（未訓練的編纂者），其效能仍已超越現有方法，顯示出就任務適配而言，「讀取時編纂」本身就是核心優勢。