本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

CoMoGen:マスク誘導型動画生成による制御可能な運動ダイナミクスとインタラクション

記事の要約

CoMoGen は、1枚の入力画像とバイナリマスク系列からリアルなインタラクティブ動画を生成する制御可能な動画生成フレームワークです。軽量な MaskAdapter がマスクを潜在残差に符号化し、コサイン重み付きスケジュールで MMDiT に注入します。さらに注意空間上の「Motion Layers」を特定し、LoRA で選択的に微調整することで、アーキテクチャ変更なしに計算コストを抑え、運動忠実度と知覚リアリズムで最先端性能を達成しています。

ソースarXiv Computer Vision著者: Adil Meric, Lin Geng Foo, Mert Kiray, Benjamin Busam, Rishabh Dabral, Christian Theobalt
CoMoGen:マスク誘導型動画生成による制御可能な運動ダイナミクスとインタラクション
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

CoMoGen は、Adil Meric 氏ら6名の著者によって2026年5月21日に arXiv に投稿された、コンピュータビジョンとパターン認識分野の研究です。この研究は、1枚の入力画像とバイナリマスク系列から、リアルなインタラクティブ動画を生成する制御可能な動画生成フレームワークを提案しています。複雑な運動アノテーションや追加の制御信号を必要とせず、単純なマスク系列だけで被写体の動きを精密に制御し、周囲の人物、物体、シーンとの自然な相互作用を実現する点が特徴です。

手法の中心は、軽量な MaskAdapter です。これはバイナリマスク系列を潜在残差信号に符号化し、コサイン重み付きスケジュールを通じて Multimodal Diffusion Transformer(MMDiT)に注入します。この注入方式は生成のバックボーンを変更せずに、マスクに含まれる空間的な運動情報を拡散プロセスへ段階的に取り込むことができ、生成品質を保ちながら運動制御を可能にします。

研究チームは、MMDiT と UNet の構造的な違いにも注目しています。UNet は粗から細へという階層的な設計を持つため、各層の役割が比較的明確です。一方、MMDiT は均一な Transformer ブロックの連続で構成されるため、どの層が運動生成を担っているのかを特定するのが困難です。そこで著者らは、MMDiT の注意空間において「Motion Layers」を特定する新しい方法を提案しました。運動層を決めた後は、それらの層にのみ Low-Rank Adaptation(LoRA)を適用して微調整を行い、MMDiT のアーキテクチャには一切変更を加えません。この選択的な適応により、運動に重要なコンポーネントに学習を集中させ、計算コストを大幅に削減できます。

この簡潔な設計にもかかわらず、CoMoGen は性能を犠牲にしていません。被写体の正確な運動を実現し、周囲の人間、物体、シーンとの説得力のあるインタラクションを生成できます。複数のデータセットで行われた包括的な実験では、CoMoGen が従来の制御可能な動画生成手法を一貫して上回り、運動忠実度と知覚リアリズムにおいて最先端の性能を達成したことが示されています。論文ではプロジェクトページも公開されており、生成結果や詳細を確認できます。

研究上の意義は、1枚の画像とバイナリマスク系列という非常にシンプルな制御インターフェースで高い運動制御性を得ながら、運動層の特定と LoRA 微調整によって大規模な構造変更や高い学習コストを回避している点にあります。これは制御可能な動画生成に対する軽量かつ有効な技術的アプローチを示すものであり、より複雑なインタラクション場面における運動制御研究にも参考になると考えられます。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • CoMoGen は1枚の画像とバイナリマスク系列を条件に、被写体の運動と周囲とのインタラクションを制御する。
  • MaskAdapter がマスク系列を潜在残差に符号化し、コサイン重み付きスケジュールで MMDiT に注入する。
  • MMDiT の注意空間で「Motion Layers」を特定し、LoRA により選択的に微調整するため、構造変更なしで計算コストを削減できる。
  • 複数データセットの実験で、運動忠実度と知覚リアリズムにおいて既存の制御可能な動画生成手法を一貫して上回る。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。