AI 自我遞迴改進恐怕不會這麼快實現
為何重要
這項研究對標榜 AGI 並推動自我改進的企業（如 Anthropic 與 OpenAI）發布的進度圖表來說是一盆冷水，明確區分了「工程自動化」與「高階研究能力」的落差。對於開發者而言，這意味著 AI Agent 目前仍難以獨立進行科研導向的探索；對於投資人來說，這是一項關於未來估值與時間表的關鍵觀察，暗示真正的革命性突破可能仍須依賴更底層的架構創新，而非單純的規模堆疊。
眾多業界預測認為 AI 將迅速進入自我改進階段，但最新的學術研究顯示此路徑充滿障礙，目前的 Agent 雖具備工程執行力，卻缺乏一般的原創性研究判斷力與創造力。
- 研究團隊使用「shadow evaluation」方法，讓 Claude Opus 4.8 在 6 天內、消耗約 3000 美元 API Credits，從未公開的 NeurIPS 2026 論文中尋找答案。
- 兩篇試著模擬的研究提案皆遭原作者否決，原因在於 AI 雖具備工程執行力（跑實驗、查文獻），但撰寫能力差、缺乏創新，無法靈活回溯策略或有效利用資源。
- 研究指出目前的強化學習訓練方式較難培養出具備開放式研究能力的模型，且目前僅以此為目標（如 Anthropic 的 Mythos 模型）仍在測試階段。