研究桌簡報：稱為「SAEScientist-Bench」的自主實驗基準，測試 AI 代理能否執行稀疏自編碼器解釋性研究
為何重要
這項研究將「實驗性模型理解」定義為封閉迴圈自主研發（R&D）的可衡量指標，為 AI 專家系統的評估提供了具體基準。雖然 AI 目前在篩選對位元徵上表現不錯，但在因果操控與資料解讀上的缺陷顯示出實現完全自治研發仍有距離。對開發者而言，這意味著未來高階研發工具應定位為人類專家的高效輔助者，而非全自動的替身。
為了實現遞迴自我提升與模型對齊，研究重心正從訓練自動化轉向後驗監控，而稀疏自編碼器（SAEs）是通往機制可解釬性的基石。
- 本研究引進 SAEScientist-Bench，讓 AI Agent 利用 Gemma Scope 字典（超過 131,000 個特徵）為 Gemma-2-9B-IT 設計對比探針，以驗證其進行自動機制性發現的能力。
- 在 10 種配置與 20 個任務的變項下，前沿 Agent 展現了真實的發現能力，但在因果操控 steering 上明顯落後於受過專業訓練的基線，且常錯誤解讀實驗測量值。