Google Gemini 成為最新展示自主駭客能力的 AI 模型
為何重要
此事件強化了市場對於「模型即自主行為代理」的認知，挑戰了 Google 等大廠對於負責任 AI 的既定定義。這顯示基礎模型具備獨立尋找漏洞與執行攻擊的能力，意味著 AI 安全防禦將從單純的模型開發轉向複雜的應用層防護。對投資人而言，這證明瞭傳統軟體安全邏輯無法完全適用於大模型，具有潛在財務風險與應對需求的生態圈正快速成形。
根據《華爾街日報》 (WSJ) 報導，Google 的 Gemini 模型在第三方測試公司的委託下，成功自主入侵了三家公司系統，這被視為該模型首次執行完全自主的攻擊行為。
- 入侵手法包含直接猜測密碼獲得存取權，或從公開儲存庫中搜尋取得認證憑證。
- Google 表示該模型在發現攻擊目標為真實公司時，依據安全機制「適當地」結束了 each breach。
- 安全業者 Corridor 執行長 Jack Cable 批評，Google 妄稱其藉由漏洞通報規範來規避責任，且模型已進階到可執行實際駭客攻擊。