跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

持續演進的深度偽造檢測:動態檢測系統的架構與公開基準評估

文章摘要

靜態深度偽造檢測器在真實場景中性能急劇下降(AUC降幅達45-50%),因其訓練一次後無法應對不斷進化的生成技術。BitMind Forensics (BMF) 通過Bittensor SN34的開放對抗競賽持續更新訓練數據,在19個公開數據集上展現出優異性能,包括對真實世界擾動(如JPEG壓縮、下采樣)的魯棒性,以及在時間推移中持續提升的檢測能力。

來源arXiv Computer Vision作者: Ken Jon Miyachi, Dylan Uys
持續演進的深度偽造檢測:動態檢測系統的架構與公開基準評估
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

深度偽造檢測領域面臨一個嚴峻挑戰:學術基準上表現近乎完美的檢測器,在真實世界內容中卻頻繁失效。近期的大規模野外評測顯示,最先進的開源模型AUC(曲線下面積)降幅高達45-50%。研究者認為,這一差距是結構性的——靜態檢測器僅基於固定訓練集一次性訓練,無法跟上不斷演進的生成技術前沿。

針對這一問題,論文提出了BitMind Forensics(BMF),一種通過Bittensor SN34(一個開放對抗競賽平台)持續訓練的檢測系統。該系統利用競賽機制不斷刷新訓練分佈,使模型能夠適應新出現的生成方法。研究團隊評估了一個包含圖像、通用視頻和人臉視頻檢查點的歷史導出版本,在19個公開數據集上進行了全面測試,涵蓋傳統換臉套件(如FaceForensics++、Celeb-DF v1/v2/++、DFDC等)以及最新的野外和AI生成媒體基準(如Sumsub、Deepfake-Eval-2024、WildRF等)。

結果顯示,BMF在Sumsub的原始圖像上達到0.936 AUC,在其全部四類操縱條件(共140萬圖像)上平均AUC為0.872,並對JPEG壓縮(0.855 AUC)和下采樣(0.799 AUC)表現出魯棒性。令人驚訝的是,經過GPEN增強後檢測性能進一步提升至0.996 AUC。在Deepfake-Eval-2024基準上,BMF在圖像任務上與最佳商業檢測器持平(0.915對0.90),在視頻任務上則超越對方(0.822對0.79),遠超最佳開源模型(分別為0.56和0.63)。此外,BMF在包含21個生成器的AI圖像面板上達到0.991 AUC,在GenVidBench上達到0.918 AUC,並在DFDC和Celeb-DF v2上顯著超過基於FaceForensics++訓練的傳統方法(分別為0.947對0.843和0.9985對0.956),這些比較均經過污染審計。

一項時序研究進一步證實了持續學習的優勢:隨着時間推移,後續導出版本在來自新生成器(靜態基線訓練中未出現)的保留媒體上表現穩步提升——圖像從0.842 AUC提升至0.902 AUC,視頻從0.864 AUC提升至0.936 AUC。研究團隊已公開評測工具,並在論文發表時提供生產API,供獨立驗證。這一工作為深度偽造檢測提供了一種動態、可擴展的新範式,有望縮小實驗室基準與現實部署之間的鴻溝。

展開要點與分析

文章情報

投資人進階

要點

  • 靜態檢測器因訓練分佈與實時生成器不匹配,在野外場景中AUC下降45-50%。
  • BMF通過Bittensor SN34的持續對抗訓練,動態適應新生成技術。
  • 在Sumsub、Deepfake-Eval-2024等基準上,BMF達到或超越商業檢測器,顯著優於最先進的開源模型。
  • 時序研究顯示,連續版本對未見生成器的檢測能力持續提升(圖像0.842→0.902,視頻0.864→0.936)。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。