美軍誤信 AI 幻覺情資 幾乎引爆與中國戰事
為何重要
這起事件揭示了地緣政治極端狀態下，軍事 AI「速度優先」策略的致命性缺陷：當缺乏統一的嚴格驗證時，AI 幻覺與錯誤標記將直接衝擊指揮鏈的決策時效與準確性。對投資人而言，這確立了 AI 安全性、預審查與「人機回環」機制在政府關鍵領域的重要性；同時，此類戰略風險可能推動對於更安全的專用 AI 硬體或邊緣運算網路的需求。
美國軍方在演習或實戰情境下，誤將 AI 生成關於中國船艦運載核武零件的情報當真，差點造成致命的攔截錯誤與戰爭風險。
- 據四位知情人士描述，軍方正準備計畫攔截船隻，武裝成員幾乎登船、軍機也在空中，直至行動前夕才經人工查證發現報告係由 AI 生成，且聊天機器人對船載貨物有誤判。
- 報告由設於夏威夷的美國特種作戰司令部 Pacific（SOC/Pacific）一名分析師，使用包含美國政府機密情資（SIGINT）的 AI 工具建成，融合公開資訊並產出結論。
- 美國國防部於 1 月發布「AI 加速戰略」，以「民主化」為目標將 AI 模型分發給全軍 300 萬名平民與軍人，但不同單位缺乏統一的資訊驗證標準。
- 前高官直言「內部工具多為穿著口紅的商業產品」，分析年輕人過度信賴 AI 加速了錯誤情資的散佈。