Nvidia 不含糊:OSAA 成立週即展現成果
為何重要
OSAA 的快速行動代表了產業對建立「開放標準」以防制封閉模型風險的強烈共識;與 Linux Foundation 合作的提案有助於標準化由公私部門共同維護的資安防禦機制。值得關注的是,OpenAI 與 Google 等領先模型的缺席,反映出安全性與模型開放度之間的權衡可能正在加劇,未來這場陣營之間的標準競賽將決定企業對抗 Rogue AI 的最佳路徑。
Nvidia 主導的開放安全 AI 聯盟(OSAA)成立僅一週,即已在拉斯維加斯展開安全協議提案討論;這項橫跨 120 家公司的業界行動,旨在建立 AI 網安事件機密通報、警示與無咎責分析的方法論。
- OSAA 與 Linux Foundation 共同推動名為「Shared AI Findings Exchange (SAFE)」的工作小組,並在 Black Hat 大會上公開提案供業界回饋。
- 提案內容涵蓋如何安全通報 AI 安全事故、警示受影響物件,並進行事後無咎責分析以供產業學習,同時匯整成員的開源技術以建立 AI agents 的防禦方案。
- 專案成員包括 Nvidia、Amazon、Red Hat 等者,貢獻瞭如 Garak LLM 漏掃描器、Cedar 授權語言等工具,但 Anthropic、OpenAI 與 Google 當前尚未加入。