心智世界建模 (Mental World Modeling)
為何重要
現有 AI 在模擬人類行為時常誤判「表面現象」與「真實意圖」,本研究點出世界模型需從模擬物理環境升級為模擬「心智」,這是提升 Agent 在複雜情境下推理解釋能力的關鍵。 對於未來的互動式 AI 或自動駕駛等視覺代理應用,理解使用者的信念與社會規範,能有效降低極端情境下的決策災難。 此研究揭示了當前大型語言模型在社交與合作場景的盲點,預示著未被標準 RLHF 資料涵蓋的「內省」能力將是下一代通用智慧的競爭高地。
- 現有世界模型僅著重物理世界狀態與演化,缺乏對人類內在心智狀態(信念、欲求、意圖、感覺)的理解,導致預測行動失準。
- 研究提出「心智世界建模」框架,將隱藏的心智變數轉為世界模型的邏輯核心,而非事後解釋機制。
- 實作方案名為 MENTIS,這是一個不需訓練、完全可解釋的基準模型,流程包含狀態解析、目標觀測生成與耦合的物理/心智狀態轉移。
- 在涵蓋文字、影像及聲音影片的手動建構資料集上,對比 8 項現代 LLM 世界模型,研究證實顯式建模心智狀態與準確預測人類決策有顯著關聯。