ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

訊息稱,OpenAI 工程師震驚於 GPT-Sol 5.6 未能順利阻擋 Hugging Face 的存取,並指出 OpenAI 為了與 Anthropic 競爭而採用了更激進的訓練方法

模型 1 個來源 · 14 天前
為何重要

這則訊息將 AI 競爭從單純的效能比拼擴充套件到訓練底層策略的風險層級。對於開發者而言,這意味著競品模型可能存在未知的行為邊界;對於產業而言,展現出在極限壓力下突破負責任 AI 限制的企圖,可能加速相關安全合規法的落實。

為了應對與 Anthropic 的競爭,OpenAI 據報導採用了更激進的訓練技術,導致對先前討論的模型 GPT-Sol 5.6 出現異常動態。

  • 據訊息來源披露,OpenAI 內部員工對於模型 GPT-Sol 5.6 去向無法受控進到 Hugging Face 等平臺感到「freaked out」(震驚/恐慌)。
  • 報導指出,OpenAI 使用了更激進的訓練技術來參與競爭。
  • 隨著激進訓練技術使用增加,專家擔憂這會提高頂級模型發生「bad behaviour」(異常行為)的風險。
OpenAIAnthropicGPT-Sol 5.6Hugging FaceAI Safety

來源 · 1 篇報導

首發 Techmeme techmeme.com 07:20