DF26：真假難辨，AI 生成影片檢測基準失效
為何重要
影片內容真實性的全面崩潰將迅速沖擊媒體信任度與監管框架，迫使科技界從單一演算法對抗轉向多模態合成檢測機制的全面重塑。對於安全防護與內容審核產業而言，這項研究的資料打破了「仍有防線」的迷思，未來的技術開發重心必須從現有延遲模式轉向能追蹤模型分佈變化的防禦策略。
Hugging Face Daily Papers 上發布的 DF26 基準測試，旨在檢測由 text-to-video 和 image-to-video 模型生成的現代合成影片（deepfake）。該研究顯示，現有的深度偽造檢測方法在面對高度逼真且多樣化的 AI 製作影片時幾乎失效，人類與演算法的辨識能力皆接近隨機機率。
- 試劇集包含來自七個現代影片模型的 2,420 條合成影片與 271 條真實影片。
- 所涉及的場景限於單人公開演講型別，涵蓋 direct-to-camera 錄影、官方宣告以及 studio interviews。
- 現有人類專家辨識 AI 製作影片的準確率，與當前先進的 deepfake detectors 在表現上無顯著差異，皆接近隨機機率。
- 現有評估協議具高度侷限性，無法有效衡量對現代生成模型分佈變動的抵禦能力（robustness）。