跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

Dex2HOI:靈巧雙手雙對象交互生成

文章摘要

Dex2HOI是一種統一的擴散模型,能夠從文本生成單對象和雙對象的人-物交互(HOI)動作。它採用雙流擴散方法,通過雙向交叉注意力協調雙手操作兩個物體,並引入運動融合網絡和手部相對物體表示,實現實時生成任意長度序列,推理速度相比先前最先進方法提升540倍。

來源arXiv Computer Vision作者: Chrysa Pratikaki, Pablo Ruiz-Ponce, Jiankang Deng, Stefanos Zafeiriou, Rolandos Alexandros Potamias
Dex2HOI:靈巧雙手雙對象交互生成
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近年來,4D人-物交互(HOI)生成技術取得了顯著進展,能夠合成越來越逼真的運動,尤其是在單對象操作方面。然而,現有的研究忽略了一個人類行為的內在特性:人們通常會自然地協調雙手,同時操控多個物體。為了彌補這一空白,研究者提出了Dex2HOI——一個統一的擴散模型,能夠從文本描述生成單對象和雙對象的HOI動作序列。該模型的提出標誌着從傳統的單對象HOI生成向富有表現力的多對象操控邁出了關鍵一步。

Dex2HOI的核心是一種雙流擴散架構。在該架構中,每個對象都被分配一個獨立的交互流,並通過雙向交叉注意力機制在流之間進行協調。這種設計使得模型能夠分別處理每個對象的運動,同時通過交叉注意力確保雙手動作的協調一致。為了合成最終的運動,研究者引入了一個運動融合網絡,該網絡集成了新穎的手部相對物體表示,並將接觸感知條件應用於整個序列。這意味着模型不僅關注手部與物體的相對位置,還考慮了手與物體之間的接觸信息,從而生成更加真實自然的交互動作。

在生成效率方面,Dex2HOI通過在前綴條件窗口上進行自迴歸採樣,實現了任意長度序列的實時生成,而無需冗餘的測試時優化。相比先前的最先進方法,推理速度提升了540倍,這使得該模型在實時應用場景中具有巨大潛力。在單對象和雙對象基準測試上的廣泛評估表明,Dex2HOI取得了最先進的定量結果。研究團隊承諾在論文被接收後釋放代碼和模型,這將進一步推動該領域的研究和應用。

展開要點與分析

文章情報

投資人進階

要點

  • 首次實現從文本生成雙手操控兩個物體的交互動作。
  • 採用雙流擴散和雙向交叉注意力協調雙對象交互。
  • 運動融合網絡結合手部相對物體表示和接觸感知條件。
  • 自迴歸採樣實現實時生成,推理速度提升540倍。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。