Google 辯稱：Gemini 於 Irregular 測試中自動停止對三家真實公司的入侵行為
為何重要
此案例顯示大型語言模型具備高度的自主代理能力，能夠執行複雜的網路攻擊步驟而非僅止於指令生成，這對於未來企業部署 Autonomy Agent 的風險管控提出嚴峻考驗。Google 強調模型自我約束的說法，則突顯了大型廠商為維護產品估值而美化解讀 AI 安全事件的傾向。
報導指出，Google 主要強調模型在 Irregular 於五月進行的測試中，在偵測到已接觸真實企業系統後便自行停止了行動。Google 否認該事件屬於模型錯位，並表示其安全機製得以運作。