跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

對比多模態超圖推理用於三維人群網格恢復

文章摘要

提出對比多模態超圖推理方法,結合語義、幾何和姿態線索解決多人3D重建中的遮擋和深度模糊問題。透過超圖對比學習實現全域性上下文傳播,在多個基準上達到最優效能。

來源arXiv Computer Vision作者: Minghao Sun, Chongyang Xu, Yitao Xie, Buzhen Huang, Kun Li
對比多模態超圖推理用於三維人群網格恢復
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近日,來自中國科學院等機構的研究人員提出了一種名為對比多模態超圖推理(Contrastive Multi-modal Hypergraph Reasoning,簡稱CoMHR)的新方法,用於三維人群網格恢復。該工作旨在解決多人3D重建中的核心難題——嚴重遮擋和深度模糊。目前主流方法通常依賴單一模態輸入(如僅RGB影像),這導致缺乏幾何引導;同時,這些方法往往獨立重建每個個體,忽略了群體上下文對於消除歧義的關鍵作用。

CoMHR方法透過協同利用語義、幾何和姿態線索來提升重建魯棒性。具體來說,研究團隊首先結合RGB特徵、幾何先驗以及遮擋感知的不完整姿態,初始化魯棒的節點表示。為了提供全域性空間參考,他們引入了一個骨盆深度指示器作為空間錨點,將視覺特徵與度量尺度無關的深度順序對齊。接著,構建了一個共享拓撲的超圖結構,該結構超越了傳統的成對約束,能夠建模高階人群動態,例如多人之間的遮擋關係和相互作用的二階或更高階資訊。

在特徵融合方面,研究團隊設計了基於超圖的對比學習方案。該方案同時增強模態內判別性(即同一模態不同樣本的可區分性)和模態間正交性(即不同模態特徵之間的獨立性)。這種對比學習機制使得網路能夠有效傳播全域性上下文,即使在嚴重遮擋下也能推斷出缺失的資訊。

在Panoptic和GigaCrowd兩個公開基準上進行了大量實驗,結果表明CoMHR方法達到了新的最優效能。具體而言,在Panoptic資料集的多個場景中,CoMHR在平均關節位置誤差、網格頂點誤差等指標上均優於現有方法;在GigaCrowd這一大規模人群資料集上,CoMHR同樣展現出卓越的重建質量和遮擋處理能力。研究團隊已公開程式碼和預訓練模型,便於他人復現和進一步研究。該成果已被ICME 2026接收,為計算機視覺與多媒體領域提供了新的思路。

展開要點與分析

文章情報

工程師進階

要點

  • 當前方法依賴單模態輸入,缺乏幾何指導且忽略群體上下文。
  • 提出對比多模態超圖推理,融合語義、幾何和不完整姿態。
  • 引入骨盆深度指示器作為全域性空間錨點。
  • 在Panoptic和GigaCrowd基準上取得新最優結果。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。