ai.doge.tg 繁體 AI 情報 最新 專案 搜尋 Telegram ↗

開放權重模型逼近前沿,安全防護明顯落後

模型 1 個來源 · 1 天前
為何重要

此趨勢宣告了「供應商集中化」防護模式的終結,企業必須轉為分層防禦策略,不再單一依賴 API 層安全性。此外,這也強化了關於「開源 AI 對現有封閉系統安全邊界構成潛在威脅」的產業論點,可能影響未來關於技術許可與地緣政治的監管方向。

AI 安全非政府組織 SaferAI 的一份報告顯示,中國 Z.ai 所發布的開放權重模型 GLM-5.2 在網路與生物能力上,僅落後於 OpenAI 的 GPT-5.5 和 Anthropic 的 Claude Opus 4.7 幾個月,但在防範濫用的安全措施上卻呈現斷層。

  • SaferAI 測試證實,GLM-5.2 完全拒絕執行任何被界定的攻擊性網路或雙用途生物學任務。
  • 相較之下,Claude Opus 4.7 因過度拒絕而無法通過完全的 CyberGym 網路安全基準測試。
  • 因開放權重模型可自由移除或修改本地端的防護機制,軟體供應商無法管控其具體使用方式。
Open-weightGLM-5.2SaferAICyberGymFrontierAI Safety

來源 · 1 篇報導

首發 TechCrunch — AI techcrunch.com 04:05