在計算機視覺領域,複雜場景中的動作識別常常涉及多個並行的細粒度動作,這使得對內部動作結構的建模變得極具挑戰性。現有的大多數方法依賴於整體表示,難以捕捉細微的交互和細粒度語義。儘管最近基於提示的方法引入了某種解纏機制,但它們缺乏顯式的語義指導,而僅基於視覺或結構化線索的方法仍然停留在粗粒度層面。
為了突破這一侷限,來自田納西大學等機構的研究團隊提出了一種名為“知識引導的原子動作解纏”(Knowledge-guided Disentanglement with Atomic Actions, KDA)的新方法。該方法通過利用細粒度語義知識來增強動作表示,實現更精確的解纏。具體而言,KDA首先借助大語言模型(LLMs)將動作標籤分解為原子動作,為每個原子動作提供明確的時空語義描述。這些原子動作代表了構成複雜動作的基本單元,例如“揮手”、“跳躍”等,使得模型能夠更細緻地理解視頻內容。
在此基礎上,KDA設計了兩個核心模塊:知識注入模塊(KIM)和知識解纏模塊(KDM)。KIM負責將原子動作知識融入視頻特徵中,形成增強表示;隨後KDM進一步解纏這些原子動作知識,生成更精細的語義指導,以輔助最終的動作解纏過程。此外,研究團隊還引入了一種知識解纏損失函數(KD Loss),通過鼓勵KDM內部知識組件的清晰分離,提升了模型的可解釋性和性能。
大量實驗表明,KDA能夠顯著提升特徵的可判別性,並在多個多標籤動作識別基準數據集上取得了最先進的性能。例如,在Charades和Multi-Thumos等數據集上,KDA超越了先前的方法,驗證了其有效性。更重要的是,KIM和KDM兩個模塊具有良好的通用性,可以輕鬆集成到其他現有的動作識別方法中,如TSM和I3D,進一步驗證了它們的廣泛適用性。該研究已被ACM MM 2026會議接收,並提供了詳細的代碼和實驗設置供社區復現。
總體而言,KDA通過將LLMs的語義知識與視頻特徵學習相結合,為解決複雜場景中的細粒度動作識別提供了新思路,有望推動視頻理解技術的發展。