OpenAI 首席科學家 Pachocki 指出無實驗室解決對齊問題,呼籲業界推動自願降速
為何重要
這項宣告清楚界定了 OpenAI 在追求 AGI 路徑上的安全優先立場,透過首席研究員的視角確認了對齊尚未完成的事實,意圖釐清技術進展與速度擴張之間的權衡邏輯,同時對 AI 產業宣示了「安全先行」可能成為並非僅限於口號的發展規則。
OpenAI 首席科學家 Jakub Pachocki 表示,目前業界尚未解決對齊 的問題到足以讓模型持續以最大速度擴充套件,且呼籲將自願降速 視為常態。
- 技術瓶頸:目前沒有實驗室在對齊問題上解決得足夠充分,無法支撐最大速度的擴充套件。
- 業界呼籲:Pachocki 希望業界自願降速 變成常態。
- 研究背景:此宣告基於 2023 年中期的「RLSlow」研究專案。