AI 當家，殺戮鍊可能失控：Airwars 發布戰爭中的風險分析
為何重要
該報告挑戰了「自動武器始終由人類審慎介入」的常見敘事，揭露了軍用 AI 堆疊技術（如監控與 Computer Vision）如何大幅降低殺戮門檻並伴隨高風險錯誤。對於開發者而言，這突顯了在監控與防衛領域部署 AI 時，必須將誤判容忍度與客戶驗證流程納入核心考量。對產業而言，隨著監控與軍用 AI 的商業化，相關產品將面臨更複雜的國際法規與倫理審查壓力。
非營利監督組織 Airwars 發布詳細報告「AI 殺戮鍊解剖」，深入檢視機器學習（ML）在現代戰爭中主導從監控到殺戮流程的運作方式。報告指出儘管官方強調人類監督，實際上關鍵決策環節已高度自動化。
- 報告將現代軍事目標確認與消除流程分解為六個階段，包括決策支援系統、監控技術、情報與識別、目標選擇、打擊執行及事後評估。
- 分析引用美軍作戰資料指出，在部分行動中，六個階段僅有兩個階段包含「人在迴路」，另一個僅有監督，其餘皆為完全自動化。
- 研究強調，ML 系統在自動翻譯通訊、社交媒體風險評分及戰損評估中存在固有錯誤，且在戰場緊迫的時限下，人類難以驗證 AI 輸出，容易受「自動化偏差」影響。