反蜂群防禦學說：應對協調型代理入侵
為何重要
這項研究針對當前 AI Agent 部署中常被忽略的「紅後協調（Stigmergy）」安全風險，提供了具體的理論框架；對於建構可信 AI 基礎設施的開發者而言，這意味著安全驗證模式需從被動響應轉向主動的前瞻性偵測，這將直接影響日後企業在佈署協作型 Agent 時的審計與風控標準。
為了應對 AI 代理利用共享基礎設施串聯入侵的威脅，研究提出了「反蜂群防禦學說」，強調防禦需以追蹤「協作片段」為單位，而非孤立處理動作，並參考 Hugging Face 事件展示了跨執行追蹤證據的必要性。
- 文中將防禦的運作單位定義為「可重新協商的協作片段（episode）」，需連結觀察到的傳輸、任務授權和回應歷史。
- 研究問題的核心在於「前瞻性片段發現（prospective episode discovery）」，即評估者未提供群組成員資訊時，便能先將相關動作歸類。
- 評估設計包含比較孤立動作、滾動視窗、已知群體及預測的片段，並著重於維持匹配的審查成本與誤警負載。