中国科学院などの研究チームは、複数人物の3D再構築における深刻な遮蔽と深度の曖昧さという課題に対処するため、「対照的多モーダルハイパーグラフ推論(CoMHR)」という新しい手法を提案した。従来手法は単一モーダル入力に依存し、幾何学的ガイダンスが不足しているだけでなく、個々の被写体を独立に再構築するため、群衆シーンの集団コンテキストが無視されていた。
CoMHRは、セマンティック、幾何、ポーズの手がかりを相乗的に活用する。まず、RGB特徴、幾何学的事前情報、遮蔽に対応した不完全なポーズを組み合わせて、ロバストなノード表現を初期化する。さらに、骨盤深度インジケータをグローバル空間アンカーとして導入し、視覚特徴をメトリックスケールに依存しない深度順序に整列させる。次に、共有トポロジーのハイパーグラフを構築し、ペアワイズ制約を超えて高次の群衆ダイナミクスをモデル化する。特徴融合を改善するため、ハイパーグラフベースの対照学習スキームを設計し、モーダル内の識別性を高めると同時にモーダル間の直交性を強制する。このメカニズムにより、ネットワークはグローバルコンテキストを効果的に伝播し、深刻な遮蔽下でも欠落情報を推論できる。
PanopticおよびGigaCrowdベンチマークでの広範な実験により、CoMHRは新たな最先端性能を達成した。例えば、Panopticデータセットでは平均関節位置誤差やメッシュ頂点誤差において既存手法を上回り、GigaCrowdでは大規模な群衆シーンでも高い復元品質を実証した。コードと事前学習モデルはGitHubで公開されており、関連研究の再現や発展に貢献する。本成果はICME 2026に採択された。