【Podcast 精華】AI 研究界正激烈討論「遞迴自我改良」的實現時程與技術瓶頸
為何重要
這場辯論直接挑戰了「單靠擴大規模 就能到達 AGI」的樂觀論調，警示產業界若無法在架構層面（如繼續學習、燃燒學習）取得突破，將面臨效能停滯甚至曲線下行。對開發者而言，這暗示必須重新審視自動化研究工具的可靠性，並隨時準備迎接「突然變笨」的模型週期；投資人則需關注誰能率先解開離散創新瓶頸，避免押錯了 scaling law 的後退之路。
知名 AI 研究員 John Schulman、Beren Millidge 與 Charlie O'Neill 在播客節目中深入討論人類距離「遞迴自我改良」（Recursive Self-Improvement，RS）究竟多遠，並列出若 2036 年未出現超級智慧的潛在技術障礙。
- 對話從拉高「反 RS」的觀點切入，指出強化學習與模型規模擴張已如摩爾定律般面臨需要「離散式創新」才能突破暗線的問題，若無法發現全新架構，將邁向平坦的漸近線。
- John Schulman 提到，即便 AI 是人類研究能力的 0.1% 優勢，若受制於研究與工程的瓶頸，其生產力未必能達到百倍成長，許多新模型都曾經歷「快速進步後突然感覺變笨」的週期。
- 研究團隊認為當前以 Transformer + 強化學習為基調的配方，可能不足以讓 AI 自主發現遠離現狀的「全球最佳方案」（甚至可能需要拋棄梯度下降），這限制了自動化 AI 研究員的可行性。