近日,來自中國科學院等機構的研究人員提出了一種名為對比多模態超圖推理(Contrastive Multi-modal Hypergraph Reasoning,簡稱CoMHR)的新方法,用於三維人群網格恢復。該工作旨在解決多人3D重建中的核心難題——嚴重遮擋和深度模糊。目前主流方法通常依賴單一模態輸入(如僅RGB影像),這導致缺乏幾何引導;同時,這些方法往往獨立重建每個個體,忽略了群體上下文對於消除歧義的關鍵作用。
CoMHR方法透過協同利用語義、幾何和姿態線索來提升重建魯棒性。具體來說,研究團隊首先結合RGB特徵、幾何先驗以及遮擋感知的不完整姿態,初始化魯棒的節點表示。為了提供全域性空間參考,他們引入了一個骨盆深度指示器作為空間錨點,將視覺特徵與度量尺度無關的深度順序對齊。接著,構建了一個共享拓撲的超圖結構,該結構超越了傳統的成對約束,能夠建模高階人群動態,例如多人之間的遮擋關係和相互作用的二階或更高階資訊。
在特徵融合方面,研究團隊設計了基於超圖的對比學習方案。該方案同時增強模態內判別性(即同一模態不同樣本的可區分性)和模態間正交性(即不同模態特徵之間的獨立性)。這種對比學習機制使得網路能夠有效傳播全域性上下文,即使在嚴重遮擋下也能推斷出缺失的資訊。
在Panoptic和GigaCrowd兩個公開基準上進行了大量實驗,結果表明CoMHR方法達到了新的最優效能。具體而言,在Panoptic資料集的多個場景中,CoMHR在平均關節位置誤差、網格頂點誤差等指標上均優於現有方法;在GigaCrowd這一大規模人群資料集上,CoMHR同樣展現出卓越的重建質量和遮擋處理能力。研究團隊已公開程式碼和預訓練模型,便於他人復現和進一步研究。該成果已被ICME 2026接收,為計算機視覺與多媒體領域提供了新的思路。