跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

TIME機器:論運動對於高效感知的力量

文章摘要

本文提出一種以運動為核心模態的視頻表示學習方法TIME(時間感知運動嵌入),通過掩碼自編碼器在點軌跡上進行自監督學習,僅使用合成運動數據訓練,在多種零樣本任務上達到與使用多四個數量級數據的SOTA模型相當的性能。

來源arXiv Computer Vision作者: Mantas Skackauskas, Xinyue Hao, Laura Sevilla-Lara
TIME機器:論運動對於高效感知的力量
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近年來,視頻表示學習取得了顯著進展,這主要得益於訓練規模的擴大以及對比語言訓練在視覺模型上的成功應用。然而,這些方法也帶來了自身的侷限性:首先,擴展視頻模型需要高昂的計算成本;其次,從語言中學習限制了模型所能掌握的概念範圍,使其僅能理解描述中的內容。因此,視頻模型在時間理解方面仍然存在不足。

為了解決這些問題,Mantas Skackauskas等研究人員提出了一種全新的方法,將運動作為視頻表示的核心模態。具體而言,他們利用視頻中的點軌跡來表示運動,並通過掩碼自編碼器隨機遮蔽部分軌跡,訓練模型重建這些缺失的軌跡。這一過程完全以自監督方式進行,無需任何語言標註,從而繞開了語言帶來的限制。

實驗結果表明,基於運動的視頻表示能夠有效應對當前視頻技術面臨的兩個核心挑戰。首先,由於運動本身與外觀無關,模型泛化所需的訓練數據量大幅減少。其次,運動表示能夠學習更細粒度的概念,超越語言描述的邊界。由此獲得的嵌入被稱為TIME(時間感知運動嵌入),它僅使用合成的運動數據進行訓練。

在零樣本測試中,TIME在多種任務上的表現與當前最先進的模型相當,而這些模型使用的訓練數據量是TIME的四萬倍以上。這一成果為構建更具時間感知能力且更可擴展的視頻模型奠定了基礎。相關論文代碼與數據已公開發布。

展開要點與分析

文章情報

工程師進階

要點

  • 以運動點軌跡作為視頻表示的核心模態,使用掩碼自編碼器重建缺失軌跡。
  • 自監督學習,無需語言標註,避免語言依賴和訓練數據規模過大問題。
  • 僅用合成運動數據訓練,零樣本測試性能與需要多四萬倍數據的模型相當。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。