近年來,4D人-物交互(HOI)生成技術取得了顯著進展,能夠合成越來越逼真的運動,尤其是在單對象操作方面。然而,現有的研究忽略了一個人類行為的內在特性:人們通常會自然地協調雙手,同時操控多個物體。為了彌補這一空白,研究者提出了Dex2HOI——一個統一的擴散模型,能夠從文本描述生成單對象和雙對象的HOI動作序列。該模型的提出標誌着從傳統的單對象HOI生成向富有表現力的多對象操控邁出了關鍵一步。
Dex2HOI的核心是一種雙流擴散架構。在該架構中,每個對象都被分配一個獨立的交互流,並通過雙向交叉注意力機制在流之間進行協調。這種設計使得模型能夠分別處理每個對象的運動,同時通過交叉注意力確保雙手動作的協調一致。為了合成最終的運動,研究者引入了一個運動融合網絡,該網絡集成了新穎的手部相對物體表示,並將接觸感知條件應用於整個序列。這意味着模型不僅關注手部與物體的相對位置,還考慮了手與物體之間的接觸信息,從而生成更加真實自然的交互動作。
在生成效率方面,Dex2HOI通過在前綴條件窗口上進行自迴歸採樣,實現了任意長度序列的實時生成,而無需冗餘的測試時優化。相比先前的最先進方法,推理速度提升了540倍,這使得該模型在實時應用場景中具有巨大潛力。在單對象和雙對象基準測試上的廣泛評估表明,Dex2HOI取得了最先進的定量結果。研究團隊承諾在論文被接收後釋放代碼和模型,這將進一步推動該領域的研究和應用。