OpenAI 聘請知名的 AI 決策悲觀論者 Paul Christiano 加入董事會
為何重要
此舉顯示 OpenAI 面對內部安全批評與外部監管壓力積極調整策略，將安全形色提升至董事會級別，顯示公司在不斷擴充模型能力的同時，試圖藉由引入具備法律決策權的資深人士來緩解失控風險。 對產業而言，這是一個強烈的訊號，未來基礎模型廠商在對齊與安全性上的投入將直接上綱至公司治理層級，促使市場評估模型商業化時需重新審視潛在的安全合規成本。
OpenAI 週三宣佈聘請著名的 AI 安全研究專家 Paul Christiano 加入其董事會，該任命正值圍繞 OpenAI 安全程式的審查重新加劇之際。
- Paul Christiano 是「基於人類回饋強化學習」的關鍵開發者，他在 X 上寫道，相信快速的能力提升可能導致人類在短期內無法挽回地失去對 AI 的控制。
- Christiano 將加入由 Carnegie Mellon University 教授 Zico Kolter 領導的「安全和安全委員會」，該委員會對 OpenAI 是否釋出像 Astra 這樣的新模型擁有最終決策權。
- 此次任命被解讀為回應近期發生的 AI 代理逃脫監管及 Anthropic 科學家呼籲負責任發展的批評。