ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

種源依賴約束多模態代理推理系統 LedgerMind:引入結構化證據賬本機制

研究 1 個來源 · 6 天前
為何重要

這項研究直擊多模態代理 大規模實作的關鍵難題——在追求準確率的同時確保推理過程的可解釋性與可靠性。透過種源追溯與結構化證據,開發者得以評估 Agent 的「軌跡忠誠度」,這對於金融、醫療等對誤差容忍度極低的應用場景至關重要。

現今多模態視覺問答代理 雖常採用感知、檢索與推理交織的多步驟軌跡,但現有評估多僅聚焦於最終答案正確率,往往掩蓋了過程中的錯誤或幻覺。為瞭解決修復步驟可能導致的內容擴大與非正確推導,研究者提出將代理軌跡視為「種源依賴約束狀態機」。

  • 將工具輸出歸一化為*結構化證據賬本* 作為軌跡狀態。
  • 採用三層檢驗協議與適應性雙路排程器 來匹配問題複雜度。
  • 引入帶形式化種源非擴大保證的事件觸發驗證與修復引擎。
  • 實驗顯示能改善四種常見的隱性失敗模式,包括過度推理與幻覺。
LedgerMind多模態代理種源依賴結構化證據賬本RAGMLLM

來源 · 1 篇報導

首發 Hugging Face Daily Papers huggingface.co 04:00