ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

心智世界建模 (Mental World Modeling)

研究 1 個來源 · 3 天前
為何重要

現有 AI 在模擬人類行為時常誤判「表面現象」與「真實意圖」,本研究點出世界模型需從模擬物理環境升級為模擬「心智」,這是提升 Agent 在複雜情境下推理解釋能力的關鍵。 對於未來的互動式 AI 或自動駕駛等視覺代理應用,理解使用者的信念與社會規範,能有效降低極端情境下的決策災難。 此研究揭示了當前大型語言模型在社交與合作場景的盲點,預示著未被標準 RLHF 資料涵蓋的「內省」能力將是下一代通用智慧的競爭高地。

  • 現有世界模型僅著重物理世界狀態與演化,缺乏對人類內在心智狀態(信念、欲求、意圖、感覺)的理解,導致預測行動失準。
  • 研究提出「心智世界建模」框架,將隱藏的心智變數轉為世界模型的邏輯核心,而非事後解釋機制。
  • 實作方案名為 MENTIS,這是一個不需訓練、完全可解釋的基準模型,流程包含狀態解析、目標觀測生成與耦合的物理/心智狀態轉移。
  • 在涵蓋文字、影像及聲音影片的手動建構資料集上,對比 8 項現代 LLM 世界模型,研究證實顯式建模心智狀態與準確預測人類決策有顯著關聯。
Mental World ModelingMWMMENTISworld modelsLLM agentshuman behavior

來源 · 1 篇報導

首發 Hugging Face Daily Papers huggingface.co 04:00