40k AI Agent 代理遊戲資料：人類批准命令時易錯過 1/3 威脅
為何重要
「人類於迴路」並非解決 AI 許可權管理的萬靈丹，此資料證實了在高噪音環境下，單靠人工審查不可避免地會產生高誤判率及疲勞效應。這意味著發展 AI 編碼工具的關鍵不僅在於提升模型能力，更在於設計更可靠的沙盒隔離機制來降低對人為判斷的依賴。
作者開發了一款瀏覽器角色扮演遊戲，讓玩家扮演開發者監督 AI 代理在時間壓力下批准或拒絕命令。經過 40,000 次遊戲執行與 409,000 次審批決策的統計分析，研究發現人類監督者不僅頻繁錯過惡意指令，且在高壓與疲勞下判斷力會系統性退化。