種源依賴約束多模態代理推理系統 LedgerMind:引入結構化證據賬本機制
為何重要
這項研究直擊多模態代理 大規模實作的關鍵難題——在追求準確率的同時確保推理過程的可解釋性與可靠性。透過種源追溯與結構化證據,開發者得以評估 Agent 的「軌跡忠誠度」,這對於金融、醫療等對誤差容忍度極低的應用場景至關重要。
現今多模態視覺問答代理 雖常採用感知、檢索與推理交織的多步驟軌跡,但現有評估多僅聚焦於最終答案正確率,往往掩蓋了過程中的錯誤或幻覺。為瞭解決修復步驟可能導致的內容擴大與非正確推導,研究者提出將代理軌跡視為「種源依賴約束狀態機」。
- 將工具輸出歸一化為*結構化證據賬本* 作為軌跡狀態。
- 採用三層檢驗協議與適應性雙路排程器 來匹配問題複雜度。
- 引入帶形式化種源非擴大保證的事件觸發驗證與修復引擎。
- 實驗顯示能改善四種常見的隱性失敗模式,包括過度推理與幻覺。