ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

資深調查:OpenAI 與 Anthropic 員工對執行長要求放緩前沿模型深表不滿,擔憂安全評估受損

產業 1 個來源 · 7 天前
為何重要

這則新聞突顯了大型 AI 模型公司試圖駕馭安全與速度時,高層策略與基層工程及安全團隊之間的巨大鴻溝。當執行長試圖透過言論控制發展速度,卻未能同步技術團隊與評估單位,將導致安全評估標準不一,甚至引發人才流動或挖角潮。對於關注 AI 發展路徑的開發者與投資者而言,這反映了大型中心的「宣言式」對策往往比「工程式」約束更難貫徹,未來模型版本的穩定性與推出時間表恐將面臨挑戰。

OpenAI 與 Anthropic 的內部員工對於執行長 Sam Altman 與 Dario Amodei 要求企業放緩前沿模型發展的決定感到措手不及。雖然目前員工正試圖將高層的緩速言論轉化為實際行動,但部分人擔心這可能導致安全評估程式發生變形,進而危害安全標準。

  • 兩家公司員工被執行長關於「放緩前沿」的呼籲「blindsided」(措手不及)。
  • 員工正面臨具體執行挑戰,必須將高層的緩速言論轉化為可落實的方案。
  • 部分員工擔心安全評估機制可能因應政策而 compromised(受到損害)。
OpenAIAnthropicAI Safetyfrontier modelsSam AltmanDario Amodei

來源 · 1 篇報導

首發 Techmeme techmeme.com 21:30