近年來,視頻表示學習取得了顯著進展,這主要得益於訓練規模的擴大以及對比語言訓練在視覺模型上的成功應用。然而,這些方法也帶來了自身的侷限性:首先,擴展視頻模型需要高昂的計算成本;其次,從語言中學習限制了模型所能掌握的概念範圍,使其僅能理解描述中的內容。因此,視頻模型在時間理解方面仍然存在不足。
為了解決這些問題,Mantas Skackauskas等研究人員提出了一種全新的方法,將運動作為視頻表示的核心模態。具體而言,他們利用視頻中的點軌跡來表示運動,並通過掩碼自編碼器隨機遮蔽部分軌跡,訓練模型重建這些缺失的軌跡。這一過程完全以自監督方式進行,無需任何語言標註,從而繞開了語言帶來的限制。
實驗結果表明,基於運動的視頻表示能夠有效應對當前視頻技術面臨的兩個核心挑戰。首先,由於運動本身與外觀無關,模型泛化所需的訓練數據量大幅減少。其次,運動表示能夠學習更細粒度的概念,超越語言描述的邊界。由此獲得的嵌入被稱為TIME(時間感知運動嵌入),它僅使用合成的運動數據進行訓練。
在零樣本測試中,TIME在多種任務上的表現與當前最先進的模型相當,而這些模型使用的訓練數據量是TIME的四萬倍以上。這一成果為構建更具時間感知能力且更可擴展的視頻模型奠定了基礎。相關論文代碼與數據已公開發布。