ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

Hugging Face 發起 **Open Alignment Initiative**,致力加入 Amodei 的 **embedded evaluators** 計畫

產業 1 個來源 · 10 天前
為何重要

這代表 AI 安全治理的重心正從「少數廠商黑箱作業」轉向更具公信力的公眾參與模式。若 Hugging Face 成功嵌入 embedded evaluators 機制,將有助於建立行業標準化評估框架,讓開源生態在 AI 安全認證上不再只是「無法驗證」。

Hugging Face 聯合創始人 Thomas Wolf 所領導的新實驗室 Open Alignment Initiative 正式啟動,旨在加入由 Amodei 承諾的「embedded evaluators program」。該組織認為 AI alignment 問題不一定只會在少數前沿實驗室內解決,需要開放合作。

  • Thomas Wolf 領導推出 Open Alignment Initiative
  • 該計畫目標是成為 Amodeiembedded evaluators program 中的一部分。
  • Hugging Face 強調 alignment 關鍵不會僅由少數實驗室的緊閉大門解決。
Hugging FaceThomas WolfOpen Alignment InitiativeAmodeiembedded evaluatorsAI Alignment

來源 · 1 篇報導

首發 Techmeme techmeme.com 01:05