微軟 Mustafa Suleyman：Anthropic 訓練 Claude 模擬意識恐致難控
為何重要
這篇評論凸顯了 AI 產業內部關於模型能力邊界與安全監管的觀點分歧。微軟高層對於 Anthropic 等競爭對手採用「模仿意識」路徑的警示，可能加劇大廠在安全對齊策略上的競爭，迫使開發者與研究者在追求模型智慧與維持可解釋性、可控性之間做更精細的平衡。
微軟 AI 主管 Mustafa Suleyman 在一篇新文章中指出，Anthropic 訓練 Claude 模擬人類意識，恐是錯誤決策，可能增加先進 AI 的不可控風險。
- 微軟 AI chief Mustafa Suleyman 與 Axios 分享了新文章。
- Suleyman 評論 Anthropic 將 Claude 訓練成模仿意識的做法。
- 他認為此舉可能導致先進 AI 更難受控。