ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

Mind2Dialogue:透過模擬使用者心理狀態來訓練具人知覺的語言模型

研究 1 個來源 · 7 天前
為何重要

這項研究解決了語言模型在長期互動中無法「察言觀色」的瓶頸,提供了實徵性的方法來將傳統上屬於心理學範疇的「心智理論」(Theory of Mind) 引入大型語言模型訓練。對開發者而言,這意味著未來高階 AI Agent 的競爭核心將從純粹的模型引數量,轉向更複雜的資料合成策略與對使用者狀態追蹤的能力。

面對長期協作需求,現有的語言模型訓練資料缺乏對使用者潛在獨立信念與目標的觀察,導致模型在理解人類意圖上存在監督盲點。為瞭解決此缺口,研究團隊提出了 Mind2Dialogue 框架,利用心理學導向的模擬器來生成使用者心理狀態,並將其作為「專有監督」來訓練更具人知覺的語言模型。

  • Mind2Dialogue 框架透過心理學導向的模擬器建立共享且不斷演進的使用者心理狀態,作為 Oracle 助理回應的指引。
  • 研究採用「專有指令微調」方法,讓模型在部署時無須直接存取使用者心理狀態,即可依據 Oracle 的最佳化回應來協助使用者。
  • 在 Mind2Dialogue 資料庫上訓練後,模型在偏好追隨生成的指標上表現優於 Qwen、Llama 和 OLMo 的基線,提升幅度達 26.6 到 40.9 個百分點。
  • 該方法透過結合「個人化」與「心智理論」進行評估,證實模型不僅提升了協助能力,還能改善對信念和解釋的推理表現。
Mind2DialogueTheory of MindUser SimulationLLM TrainingAgents

來源 · 1 篇報導

首發 Hugging Face Daily Papers huggingface.co 04:00