近日,來自中國科學院等機構的研究人員提出了一種名為對比多模態超圖推理(Contrastive Multi-modal Hypergraph Reasoning,簡稱CoMHR)的新方法,用於三維人羣網格恢復。該工作旨在解決多人3D重建中的核心難題——嚴重遮擋和深度模糊。目前主流方法通常依賴單一模態輸入(如僅RGB圖像),這導致缺乏幾何引導;同時,這些方法往往獨立重建每個個體,忽略了羣體上下文對於消除歧義的關鍵作用。
CoMHR方法通過協同利用語義、幾何和姿態線索來提升重建魯棒性。具體來説,研究團隊首先結合RGB特徵、幾何先驗以及遮擋感知的不完整姿態,初始化魯棒的節點表示。為了提供全局空間參考,他們引入了一個骨盆深度指示器作為空間錨點,將視覺特徵與度量尺度無關的深度順序對齊。接着,構建了一個共享拓撲的超圖結構,該結構超越了傳統的成對約束,能夠建模高階人羣動態,例如多人之間的遮擋關係和相互作用的二階或更高階信息。
在特徵融合方面,研究團隊設計了基於超圖的對比學習方案。該方案同時增強模態內判別性(即同一模態不同樣本的可區分性)和模態間正交性(即不同模態特徵之間的獨立性)。這種對比學習機制使得網絡能夠有效傳播全局上下文,即使在嚴重遮擋下也能推斷出缺失的信息。
在Panoptic和GigaCrowd兩個公開基準上進行了大量實驗,結果表明CoMHR方法達到了新的最優性能。具體而言,在Panoptic數據集的多個場景中,CoMHR在平均關節位置誤差、網格頂點誤差等指標上均優於現有方法;在GigaCrowd這一大規模人羣數據集上,CoMHR同樣展現出卓越的重建質量和遮擋處理能力。研究團隊已公開代碼和預訓練模型,便於他人復現和進一步研究。該成果已被ICME 2026接收,為計算機視覺與多媒體領域提供了新的思路。