資深調查:OpenAI 與 Anthropic 員工對執行長要求放緩前沿模型深表不滿,擔憂安全評估受損
為何重要
這則新聞突顯了大型 AI 模型公司試圖駕馭安全與速度時,高層策略與基層工程及安全團隊之間的巨大鴻溝。當執行長試圖透過言論控制發展速度,卻未能同步技術團隊與評估單位,將導致安全評估標準不一,甚至引發人才流動或挖角潮。對於關注 AI 發展路徑的開發者與投資者而言,這反映了大型中心的「宣言式」對策往往比「工程式」約束更難貫徹,未來模型版本的穩定性與推出時間表恐將面臨挑戰。
OpenAI 與 Anthropic 的內部員工對於執行長 Sam Altman 與 Dario Amodei 要求企業放緩前沿模型發展的決定感到措手不及。雖然目前員工正試圖將高層的緩速言論轉化為實際行動,但部分人擔心這可能導致安全評估程式發生變形,進而危害安全標準。
- 兩家公司員工被執行長關於「放緩前沿」的呼籲「blindsided」(措手不及)。
- 員工正面臨具體執行挑戰,必須將高層的緩速言論轉化為可落實的方案。
- 部分員工擔心安全評估機制可能因應政策而 compromised(受到損害)。