Deep Research 可靠嗎？誤導性知識會導致錯誤結論
為何重要
這篇研究打破了「規劃與檢索能力越強，AI Research 工具越可靠」的單一維度觀點，強調了系統架構中「證據驗證」層級的重要性。對於開發者而言，這意味著在建立長期自主工作流程時，必須將資訊去偽與修正機制視為核心生態，而非僅依賴單一的檢索模型。對於產業而言，若無法解決「焦點驗證」與「長期流程使用」之間的斷連問題，AI Research tools 在金融、醫療等對準確度要求極高的場景下將面臨嚴重的落地阻礙。
本研究探討 Deep Research agents 在規劃、檢索與報告生成等長期工作流程中的可靠性，重點在於誤導性知識是否會造成最終結論的偏誤。
- 研究提出「MisKnow-Agent」框架，並在「DeepResearch Benchmark」任務上構建了 5,933 個受控的誤導性例項。
- 實驗顯示，即便接觸到少量誤導性知識，研究流程仍會導致錯誤結論被採納，且帶有瀏覽功能的驗證模型難以在長期流程中阻擋資訊滲透。
- 單純提升模型規劃、檢索或整合能力不足，必須加入框架層級的驗證與修正能力，才能確保研究的整體可靠性。