跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

RoMo:大規模、豐富組織的人體運動生成數據集與語義分類體系

文章摘要

RoMo是一個大規模、高質量的人體運動數據集,通過分類感知過濾管道去除靜態和偽影序列,採用新穎的三級語義分類體系進行標註,支持細粒度評估,訓練模型在保真度和多樣性方面達到最先進水平,併發布了Motion Toolbox以標準化指標和數據轉換。

來源arXiv Computer Vision作者: Jiahao Zhang, Joseph Liu, Young-Yoon Lee, Seonghyeon Moon, Victor Zordan, Guy Tevet, Karen Liu, Stephen Gould, Oren Jacob, Haomiao Jiang, Mubbasir Kapadia, Yizhak Ben-Shabat
RoMo:大規模、豐富組織的人體運動生成數據集與語義分類體系
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

在生成式建模領域,語言、圖像和視頻的成功已經表明,大規模、精心整理的數據集是構建強大模型的關鍵驅動力。然而,3D人體運動生成卻一直落後於這些領域,主要受限於一個令人不滿的選擇:要麼使用小規模但高保真的運動捕捉數據集,要麼使用大規模但主要由靜態或低質量序列構成的野外數據。近日,來自多個機構的研究人員聯合提出了RoMo,一個豐富、大規模、精心整理的野外人運動數據集,有效解決了這一權衡問題。

RoMo數據集的構建過程中,研究團隊引入了一種分類感知的過濾管道。該管道能夠主動識別並移除那些靜態序列或容易產生偽影的序列,從而確保了數據集的整體質量。每個保留的序列都配有詳細的文本描述,並按照一種新穎的三級語義分類體系進行組織。這種層級結構不僅僅是簡單的數據整理,它使得研究人員能夠進行細粒度的、按類別的評估,從而揭示出全局指標(如平均精度)所掩蓋的模型優勢和弱點。

RoMo數據集的核心創新在於其三層語義分類體系。第一層是粗粒度的動作類別,如行走、跑步、跳躍等;第二層細化了動作的變體,如慢跑、快跑、衝刺等;第三層則包含了更細緻的描述,如動作的幅度、速度、方向以及與環境交互的信息。這種層級結構不僅便於數據的檢索和管理,更重要的是,它允許用户對模型在不同粒度上的表現進行深入分析。例如,一個模型可能在整體平均性能上很好,但在某些特定子類別(如涉及複雜交互的動作)上表現不佳,而傳統的全局指標往往忽略這一點。

此外,研究團隊還特別關注了數據集的多樣性和真實性。RoMo中的數據來源於互聯網上的視頻,涵蓋了各種真實場景,包括室內外、不同光照條件、不同穿着和姿勢等。通過過濾管道,他們成功去除了大量無動作或質量低下的片段,同時保留了豐富多樣的真實運動。這使得RoMo成為目前規模最大的高質量野外人運動數據集之一。

實驗結果表明,基於RoMo訓練的模型在生成保真度和多樣性方面均達到了當前最先進水平。更重要的是,這些模型對於複雜、微妙的文本提示的理解能力顯著優於以往的方法。研究團隊還發布了Motion Toolbox,這是一個用於標準化評估指標、數據轉換和可視化的工具包,為可重複和可解釋的人體運動生成研究奠定了堅實基礎。該工具箱提供了統一的評估指標(如FID、多樣性等)、數據格式轉換功能以及可視化工具,使得不同研究工作之間的比較更加公平和容易。

該論文已被CVPR 2026接收,相關代碼和數據將在論文發表後公開發布。RoMo的推出有望推動人體運動生成領域的進一步發展,為相關研究和應用提供高質量的數據支撐。

展開要點與分析

文章情報

投資人進階

要點

  • RoMo數據集解決了小規模高保真運動捕捉數據與大規模低質量野外數據之間的權衡
  • 引入分類感知過濾管道,去除靜態和有偽影的序列
  • 採用三級語義分類體系,實現細粒度、按類別的評估
  • 基於RoMo訓練的模型在理解複雜文本提示方面表現優越

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。