ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

OpenAI 首席科學家 Pachocki 指出無實驗室解決對齊問題,呼籲業界推動自願降速

模型 1 個來源 · 16 天前
為何重要

這項宣告清楚界定了 OpenAI 在追求 AGI 路徑上的安全優先立場,透過首席研究員的視角確認了對齊尚未完成的事實,意圖釐清技術進展與速度擴張之間的權衡邏輯,同時對 AI 產業宣示了「安全先行」可能成為並非僅限於口號的發展規則。

OpenAI 首席科學家 Jakub Pachocki 表示,目前業界尚未解決對齊 的問題到足以讓模型持續以最大速度擴充套件,且呼籲將自願降速 視為常態。

  • 技術瓶頸:目前沒有實驗室在對齊問題上解決得足夠充分,無法支撐最大速度的擴充套件。
  • 業界呼籲:Pachocki 希望業界自願降速 變成常態。
  • 研究背景:此宣告基於 2023 年中期的「RLSlow」研究專案。
OpenAIJakub PachockiAlignmentAI SafetyScaling

來源 · 1 篇報導

首發 Techmeme techmeme.com 04:25