本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

Avatar V:ビデオ参照を用いたアバタービデオ生成のスケーリング

記事の要約

Avatar Vは、参照ビデオの全トークンシーケンスに条件付けすることで、見た目だけでなく行動も再現するアバタービデオを生成するプロダクション規模のフレームワークです。スパース参照アテンション、動作表現ストリーム、アイデンティティ認識超解像を導入し、1億以上のトレーニングクリップと5段階のトレーニングパイプラインを使用して、1080pの無制限長ビデオ生成を実現。Seedance 2.0など既存システムを上回る性能を示しています。

ソースarXiv Computer Vision著者: Benjamin Liang, Ce Chen, Desmond Lin, Ivan Somov, Jiajun Zhao, Jiewei Yuan, Jingfeng Zhang, Junhao Huang, Nik Nolte, Pedram Haqiqi, Penghan Wang, Rong Yan, Rui Zhang, Sam Prokopchuk, Sivan Wang, Viktor Goriachko, Yi Ren, Yuanming Li, Yutao Chen, Zhenhui Ye, Zhibin Hong, Zilong Nie, Zujin Guo
Avatar V:ビデオ参照を用いたアバタービデオ生成のスケーリング
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

最近、arXivに投稿された論文「Avatar V: Scaling Video-Reference Avatar Video Generation」は、アバタービデオ生成のためのプロダクション規模のフレームワークを提案しています。このフレームワークの中心的な革新は、従来の単一静止画像に依存する手法とは異なり、参照ビデオの完全なトークンシーケンスを条件として直接使用し、静的なアイデンティティ属性(顔の形状、肌のテクスチャ)と動的な行動パターン(話すリズム、微表情)の両方を学習することです。これにより、見た目の類似性だけでなく、行動的にも認識可能なアバタービデオの生成が可能になります。

Avatar Vは、スパース参照アテンション(Sparse Reference Attention)、動作表現ストリーム、アイデンティティ認識超解像リファイナーの3つの主要技術を導入しています。スパース参照アテンションは非対称な注意機構であり、任意の長さの参照ビデオを線形複雑度で処理できるため、従来の注意機構の計算ボトルネックを回避します。動作表現ストリームは閉ループの話し方スタイル変換を実現し、生成されたアバターが参照ビデオの人物の話し方を自然に模倣できるようにします。アイデンティティ認識超解像リファイナーは、完全な参照条件情報を継承し、ビデオの鮮明さとリアリティをさらに向上させます。

データ面では、研究チームは強力なデータエンジンを構築し、5000万の生ビデオから1億以上の高品質トレーニングクリップを選別しました。トレーニングパイプラインは5段階で構成されており、フローマッチング事前学習、パーソナリティファインチューニング、2相蒸留(10倍以上の推論高速化)、および人間のフィードバックを用いた強化学習(RLHF)アライメントを含みます。システム全体は数千台のGPUに展開され、その産業規模を示しています。

実験結果によると、Avatar Vは1080p解像度で無制限の長さのビデオを生成でき、クロスシーンベンチマークにおいて、アイデンティティ保存、リップシンク、生成品質で最先端の性能を達成し、Seedance 2.0、Kling O3 Pro、Veo 3.1、OmniHuman 1.5などの主要システムを一貫して上回っています。この成果はアバタービデオ生成分野に新たなベンチマークを設定し、将来的にはバーチャルリアリティ、映画制作、遠隔インタラクションなどで重要な役割を果たすと期待されます。論文ではまた、詳細なアブレーション実験と定性的結果が提供され、各コンポーネントの有効性が検証されています。Avatar Vのコードとデータはまだ公開されていませんが、論文には完全な実装の詳細が記述されており、今後の研究の強固な基盤を提供しています。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • ビデオ参照条件付きモデリングで静的・動的特徴を捕捉
  • スパース参照アテンションで任意長参照を線形複雑度で処理
  • 動作表現ストリームによるクローズドループ話し方スタイル変換
  • 1080p無制限長ビデオ生成で最先端の性能を達成

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。