本文にスキップ
AI News HubLIVE
サイト内リライト1 分で読了

ビデオ生成モデルは汎用視覚学習器である

記事の要約

本論文では、大規模テキスト・ツー・ビデオ生成をコンピュータビジョンのプレトレーニングパラダイムとして活用するGenCeptionを提案。深度、表面法線、カメラポーズ推定など多様なタスクでSOTAを達成し、データ効率の良さと合成データから実世界への汎化能力を示す。

ソースarXiv Computer Vision著者: Letian Wang, Chuhan Zhang, Rishabh Kabra, Jasper Uijlings, Steven Waslander, Andrew Zisserman, Joao Carreira, Kaiming He, Misha Andriluka, Eduard Gabriel Bazavan, Andrei Zanfir, Cristian Sminchisescu
ビデオ生成モデルは汎用視覚学習器である
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

自然言語処理分野では、次トークン予測によりタスク特化モデルから強力な汎用基盤モデルへの移行が実現しました。では、コンピュータビジョンにおいて汎用モデルを達成するにはどのような触媒が必要でしょうか?本論文では、大規模テキスト・ツー・ビデオ生成がコンピュータビジョンの強力なプレトレーニングパラダイムとして機能し、時空間事前知識、視覚言語アライメント、スケーラビリティを提供すると主張しています。研究者らはGenCeptionを導入しました。これはプレトレーニング済みビデオ生成拡散バックボーンを利用し、テキスト指示に従って様々な視覚タスクを実行するフィードフォワード知覚モデルです。実験結果によれば、GenCeptionは深度、表面法線、カメラポーズ推定、表情参照セグメンテーション、3Dキーポイント予測など多様なタスクで最先端の性能を達成し、多くの場合、専用モデル(DepthAnything3、SAM3、D4RT、VGGT-Omega、Sapiens、David、Genmo、Lotus-2など)に匹敵またはそれを上回ります。さらに、ビデオ生成プレトレーニングバックボーンは、同等の設定下で他のプレトレーニングパラダイム(V-JEPAやVideo MAEなど)よりも優れています。重要なことに、GenCeptionは初期のデータ・モデルスケーリング特性と卓越したデータ効率を示し、D4RTやVGGT-Omegaなどのリーディングモデルと同等の性能を7〜500分の1のトレーニングデータで達成します。最後に、GenCeptionは興味深い創発的な振る舞いも示します。合成人間ビデオのみでトレーニングされたモデルが、実世界の映像や分布外の物体カテゴリー(動物やロボットなど)に汎化するのです。これらの発見は、ビデオ生成が単なる合成ツールではなく、物理世界のための汎用視覚知能への基盤的な道であることを示唆しています。本研究はECCV 2026に採択され、プロジェクトページはhttps://genception.github.ioです。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • GenCeptionはプレトレーニング済みビデオ生成拡散バックボーンをフィードフォワード知覚モデルとして利用。
  • 深度、法線、ポーズ、セグメンテーション、3Dキーポイント予測などでSOTA。
  • 最先端の特化モデルよりも7〜500倍少ないトレーニングデータで同等の性能。
  • 合成人間ビデオのみでトレーニングしても実世界や分布外の物体に汎化。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。