最近、arXivに投稿された論文「Avatar V: Scaling Video-Reference Avatar Video Generation」は、アバタービデオ生成のためのプロダクション規模のフレームワークを提案しています。このフレームワークの中心的な革新は、従来の単一静止画像に依存する手法とは異なり、参照ビデオの完全なトークンシーケンスを条件として直接使用し、静的なアイデンティティ属性(顔の形状、肌のテクスチャ)と動的な行動パターン(話すリズム、微表情)の両方を学習することです。これにより、見た目の類似性だけでなく、行動的にも認識可能なアバタービデオの生成が可能になります。
Avatar Vは、スパース参照アテンション(Sparse Reference Attention)、動作表現ストリーム、アイデンティティ認識超解像リファイナーの3つの主要技術を導入しています。スパース参照アテンションは非対称な注意機構であり、任意の長さの参照ビデオを線形複雑度で処理できるため、従来の注意機構の計算ボトルネックを回避します。動作表現ストリームは閉ループの話し方スタイル変換を実現し、生成されたアバターが参照ビデオの人物の話し方を自然に模倣できるようにします。アイデンティティ認識超解像リファイナーは、完全な参照条件情報を継承し、ビデオの鮮明さとリアリティをさらに向上させます。
データ面では、研究チームは強力なデータエンジンを構築し、5000万の生ビデオから1億以上の高品質トレーニングクリップを選別しました。トレーニングパイプラインは5段階で構成されており、フローマッチング事前学習、パーソナリティファインチューニング、2相蒸留(10倍以上の推論高速化)、および人間のフィードバックを用いた強化学習(RLHF)アライメントを含みます。システム全体は数千台のGPUに展開され、その産業規模を示しています。
実験結果によると、Avatar Vは1080p解像度で無制限の長さのビデオを生成でき、クロスシーンベンチマークにおいて、アイデンティティ保存、リップシンク、生成品質で最先端の性能を達成し、Seedance 2.0、Kling O3 Pro、Veo 3.1、OmniHuman 1.5などの主要システムを一貫して上回っています。この成果はアバタービデオ生成分野に新たなベンチマークを設定し、将来的にはバーチャルリアリティ、映画制作、遠隔インタラクションなどで重要な役割を果たすと期待されます。論文ではまた、詳細なアブレーション実験と定性的結果が提供され、各コンポーネントの有効性が検証されています。Avatar Vのコードとデータはまだ公開されていませんが、論文には完全な実装の詳細が記述されており、今後の研究の強固な基盤を提供しています。