NVIDIA 領銜成立開放安全 AI 聯盟，發布 SAFE 指南並貢獻全棧反制工具
為何重要
這標誌著代理式 AI 網路安全正從應用層的討論深化為底層技術棧（Harness、執行時、身份驗證）的標準化競爭，強調「智慧體 ≠ 模型」的系統安全觀。 對於企業決策者，現在的防護不僅是封裝模型，更需整合身份、編排與沙盒隔離；對供應商而言，這種跨生態的開源貢獻將定義行業基礎設施的新標準，影響未來的整合策略與收購談判籌碼。 接下來值得觀察這些開源工具在企業實際環境中的採用率，以及 OpenShell 等安全層次是否能成為雲端廠商預設的安全基線。
在拉斯維加斯 Black Hat 大會開幕期間，Linux 基金會與 NVIDIA、Cisco 等超過 120 家機構組成的「開放安全 AI 聯盟」發布了共享 AI 發現交換 (SAFE) 指南，旨在統一協作以降低代理式 AI 網路風險。
- SAFE 指南是份草案，專注於*匿名收集分析* AI 安全事件、通知受影響方、識別管控失效，並發布降低系統風險的實務建議。
- NVIDIA 貢獻了貫穿全棧的解決方案，包括供測試用的 GitHub 研究 Harness (NOOA)、限制操作的 OpenShell 執行時，以及 Nemotron、Cosmos 等一系列開源模型。
- 其他成員推出了生產級工具，如 Amazon 的 Cedar 授權語言、Microsoft Red Team 的 PyRIT，以及 Uber 開源的每日處理超 200,000 次會話的 ADR 系統。