當邊緣 AI 誤報：現實感知管道中的故障注入與錯誤狀態
為何重要
此研究揭示了對目前主流 SoC 平臺在硬體電源完整性上的新認知。對開發者而言，驗證框架必須加入對非軟體錯誤（如電源雜訊）的容錯與故障注入測試；對產業而言，自動駕駛與工控裝置的可靠性驗證不能僅依賴軟體邏輯檢查，因為 NPU 的感知輸出可能在無法被偵測的情況下偏離現實。
邊緣 AI 系統常在攝影機、機器人與車輛中進行即時決策，但其潛藏風險可能在於系統「持續運作」卻不知不覺誤判了環境，而非當機。這篇白皮書探討了一種危險的故障模式，即系統在未中斷的情況下默默接受了錯誤的觀測視角。
- 受測系統基於 Rockchip RK3568 平臺，在 NPU 上執行 YOLOv5s_ReLU 物件偵測模型。
- 防禦：攻擊非針對韌體、權重或輸入影像，而是對 NPU 電源軌施加短暫且精確的電壓突波。
- 關鍵時機：有效的攻擊視窗出現在模型執行尾聲的「neck and head」階段（特徵合成與座標輸出階段）。