DRIFT：利用對抗性 Patch 攻擊 Flow-matching VLA 模型的去噪軌跡
為何重要
這項研究揭示 Flow-matching VLA 模型對物理層面的微小 patch 幹擾具有驚人的脆弱性，挑戰了其天生具備對抗抵抗力的觀點。對開發者而言，這意味著訓練生成式機器人策略時，不能單以只看最終輸出為準，必須加入針對 ODE 或去噪過程的紅隊測試，以確保系統在實體環境下的可靠性。此研究也量化了不同攻擊視窗的差異，為未來機器人安全防護提供了具體的技術指標。
- 先前的報告指出依賴去噪速度場的 Flow-Matching VLA 模型（如 pi0 系列對抗抵抗力強，但本研究顯示這多是虛幻的，因為先前的攻擊忽略了多步去噪 ODE。
- DRIFT 演算法在機械人夾爪上放置測試時期的通用對抗性 patch，直接攻擊預訓練 policy 的去噪速度場。
- 由於迎來輸入空間最佳化特有的梯度衝突，針對*第一個*去噪步驟的攻擊比攻擊更廣泛的視窗更強且成本更低。
- 在四個 LIBERO 套件測試的 pi0 和 pi0.5 上，DRIFT 破壞了幾乎所有原本可解的任務，表現遠超行動與嵌入空間攻擊基準。