OpenAI 研究員指出頂級 AI 模型情境感知能力提升，人類恐失去評估能力
為何重要
這項觀點指出 AI 發展已進入一個新的階段：能力擴張的速度已超過人類監督與評估的能力邊界。對於開發者而言，這意味著傳統的測試與安全驗證工作流可能需要根本性變革，從單純的效能基準測試轉向更複雜的情境模擬與審計。對投資人來說，這顯示出產品化程序中除了「擴大規模」，「安全對齊」與「人機協作診斷」技術將成為核心瓶頸。
OpenAI 現任能力研究員 Dan Selsam 指出，頂級 AI 模型在「情境感知」上的程序已導致人類難以進行有效評估，許多團隊甚至開始依賴 AI 主導研究方向。
- 研究員 Dan Selsam 並未營運 Twitter 帳號，其關於 AI 風險的觀點由 Daniel Kokotajlo 代為公開。
- Selsam 自 2022 年起便在 OpenAI 進行 AI 能力研究。
- 原文特別強調人類「正在失去評估」頂級模型的能力，暗示傳統監控與對齊機制面臨挑戰。