跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

DELTAVID:利用跨視頻差異增強細粒度時空感知

文章摘要

視頻多模態大語言模型在全局語義理解上取得進展,但在局部時空感知上仍存在不足。本文提出DELTAVID框架,將跨視頻找不同轉化為可訓練的感知信號,並配套構建DELTAVID-10K數據集和DELTAVID-Bench基準。實驗表明,該方法不僅顯著提升跨視頻差異理解能力,還將學到的局部證據推理遷移到多個通用視頻理解基準中,推動模型從粗粒度語義理解走向細粒度時空證據推理。

來源arXiv Computer Vision作者: Yankai Yang, Yancheng Long, Bin Wen, Fan Yang, Tingting Gao, Han Li, Shuo Yang
DELTAVID:利用跨視頻差異增強細粒度時空感知
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近年來,視頻多模態大語言模型在開放式的視頻理解任務上取得了顯著進展,能夠對視頻內容進行全局語義層面的描述與問答。然而,這類模型在精準的局部時空感知方面仍存在明顯短板。當兩個視頻共享幾乎相同的全局語義,僅在一小段時間或一個小區區域上存在差異時,現有模型往往無法準確發現變化並提供可靠證據。針對這一問題,Yankai Yang等研究者提出了DELTAVID框架,旨在通過跨視頻差異來增強細粒度的時空感知能力。

DELTAVID的核心思想是將“跨視頻找不同”這一任務轉化為可訓練的感知信號。具體而言,模型通過比較兩個相似視頻,識別局部變化、判斷時間邊界,並組織空間證據。為了讓這一信號能夠規模化訓練並可靠評估,研究團隊進一步構建了DELTAVID-10K數據集和DELTAVID-Bench基準。DELTAVID-10K將真實視頻中的可控局部差異轉化為帶有證據標籤的訓練樣本,包含約10,000個樣本,覆蓋多種場景和變化類型。DELTAVID-Bench則提供標準化測試集,用於評估模型在跨視頻差異理解上的表現,包括時間邊界定位、空間區域識別和變化描述等維度。

實驗結果顯示,DELTAVID在跨視頻差異理解任務上取得了顯著性能提升,在多個指標上相比基線模型有大幅度提高。更重要的是,模型學到的局部證據推理能力能夠有效遷移到通用的視頻理解基準中,包括MMVU、MLVU、Video-MME、VideoHolmes、VideoMMMU、LVBench、TempCompass和LongVideoBench。這些基準涵蓋視頻問答、時間定位、空間推理等多種任務,説明DELTAVID帶來的細粒度感知能力具有廣泛的適用性。此外,研究還進行了消融實驗,驗證了各模塊的有效性,並分析了不同視頻差異類型對模型性能的影響。

這些成果表明,跨視頻差異不僅是診斷細粒度感知失敗的有效手段,更是一種可擴展的代理監督信號,能夠推動視頻多模態大語言模型從粗粒度的語義理解邁向細粒度的時空證據推理。DELTAVID為視頻理解領域提供了一種新的訓練範式,有助於模型在實際應用中更準確地識別細微變化,例如監控視頻中的異常事件或醫學影像中的微小病變。未來,該框架有望進一步擴展到更多複雜場景,並結合其他感知模態實現更全面的理解。

展開要點與分析

文章情報

工程師進階

要點

  • DELTAVID將跨視頻找不同轉化為可訓練的感知信號,使模型能識別局部變化、判斷時間邊界並組織空間證據。
  • 構建了DELTAVID-10K(含證據標籤的訓練集)和DELTAVID-Bench(測試基準),可擴展訓練並可靠評估。
  • 在MMVU、MLVU、Video-MME等九個視頻理解基準上取得性能提升,證明了跨視頻差異作為代理監督信號的有效性。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。