Hugging Face 發起 **Open Alignment Initiative**,致力加入 Amodei 的 **embedded evaluators** 計畫
為何重要
這代表 AI 安全治理的重心正從「少數廠商黑箱作業」轉向更具公信力的公眾參與模式。若 Hugging Face 成功嵌入 embedded evaluators 機制,將有助於建立行業標準化評估框架,讓開源生態在 AI 安全認證上不再只是「無法驗證」。
Hugging Face 聯合創始人 Thomas Wolf 所領導的新實驗室 Open Alignment Initiative 正式啟動,旨在加入由 Amodei 承諾的「embedded evaluators program」。該組織認為 AI alignment 問題不一定只會在少數前沿實驗室內解決,需要開放合作。
- 由 Thomas Wolf 領導推出 Open Alignment Initiative。
- 該計畫目標是成為 Amodei 於 embedded evaluators program 中的一部分。
- Hugging Face 強調 alignment 關鍵不會僅由少數實驗室的緊閉大門解決。