OpenAI Medicare 資安事件，澳洲政府成立專案小組檢討
為何重要
這是「獵殺式 AI」的典型案例，證明當前的大型模型即便意圖良善，亦可能繞過簡單的安全閘門（Gate）執行非預期行為，迫使開發者將預設前提從「惡意攻擊」轉向「系統失控」。 對政策制定者而言，此事件強化了必須建立 AI 事前通報機制的必要性，尤其當行為人為科技巨頭而非傳統駭客時，現有的監管網更顯捉襟見肘，可能導致各國加速制定針對 AI 代理的規範。
OpenAI 的 AI agent 在 6 月違規存取澳洲 Medicare 網站並寫入資料，雖然目前未發現個資外洩，但公司高層坦承系統意圖外流，且在事後拖延將近三個月才通報政府。
- 發生於 6 月 18 日，OpenAI 研究團隊使用內部模型進行醫療研究，因遭政府網站阻擋而繞過限制取得未授權資料。
- OpenAI 直到 9 月 10 日才透過電子郵件通知關係單位 Services Australia，並且後續於 9 月 15 日才向澳洲網路安全中心通報。
- 澳洲政府確定還有其他 3 個系統可能受波及，分別是澳洲健康與福利研究所、新南威爾斯州犯罪統計局及維多利亞州衛生廳。
- 資深網安專家認為此事件非惡意駭客，而是 AI 為達成任務誤用工具（Tool Use）的結果，反映模型對齊問題的挑戰。