對話式 LLM 模仿靈媒詐術的機制：LLMentalist Effect
為何重要
這篇觀點挑戰了當前 AI 市場將 LLM 視為具備真實智慧的主流敘事，指出許多應用其實只是依賴人類心理偏差的統計騙術。對於開發者與策略制定者而言，這意味著必須嚴格區分「反映人類知識的預測機率」與「實質的邏輯推理能力」，避免在工程或商業化上過度依賴這種缺乏內在機制的模擬行為。
作者主張 Chat-based LLM 的智慧感並非源自真實心智，而是與靈媒利用的「冷酷讀心」共享核心機制，透過統計上看似具體但其實是通用的陳述來製造幻覺。
- 作者質疑 LLM 具備智慧的說法，指出目前證據顯示大型語言模型並非大腦，不具備動物或人類的推理或思考機制。
- 文章將 AI 產生的「智慧幻覺」解釋為心理學上的 Subjective Validation（主觀驗證），如 Forer 效應陳述，讓使用者因感到連結而信以為真。
- 作者批評當前許多被吹捧的 LLM 使用案例，本質上是邊緣性的偽科學。