本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

AudioLift:マルチビュー動画生成による音声駆動の単一画像から全頭ガウシアンアバターへ

記事の要約

AudioLift は、生成したマルチビュー動画を中間表現として用いる2段階フレームワークで、1枚のポートレート画像から音声駆動の全頭3Dトーキングアバターを構築する。3DMM や FLAME などのパラメトリック顔モデルやインスタンスごとの最適化を必要とせず、極端な表情と360度のマルチビュー一貫性を改善する。

ソースarXiv Computer Vision著者: Zhuoyuan Jiang, Weijie Lyu, Xiaoyuan Wang, Tiancheng Shen, Ming-Hsuan Yang
AudioLift:マルチビュー動画生成による音声駆動の単一画像から全頭ガウシアンアバターへ
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

arXiv に投稿された論文 AudioLift は、音声を入力として1枚の肖像画像から全頭の3Dトーキングアバターを生成するフレームワークを提案している。著者は Zhuoyuan Jiang ら5名で、カテゴリはコンピュータビジョンとパターン認識(cs.CV)。2026年10月22日に初版が提出され、識別子は arXiv:2610.31747v1、プロジェクトページへのリンクも示されている。

論文が指摘するのは、既存の3Dトーキングアバター手法の多くが 3DMM や FLAME といったパラメトリック顔モデルに依存している点である。これらのモデルはコンパクトな運動表現を持ち、駆動や制御が容易である一方、表現力の面で制約がある。第一に、極端に大きな表情を合成することが難しい。第二に、帽子などの頭飾りをモデル化できず、生成結果が顔領域に限定されがちである。

AudioLift の発想は、中間表現そのものを変えることにある。パラメトリック顔モデルの係数を介するのではなく、生成したマルチビュー動画を音声と3Dアバターの橋渡しに使う。処理は2段階で構成される。前半では、入力音声と1枚の肖像画像から、時間的に同期し視点が相補的な複数の動画を生成する。後半では、不整合に対して頑健なガウシアン再構成により、複数視点の動画情報を一貫した全頭形状へと統合し、レンダリング可能なガウシアン表現のアバターを構築する。

この設計の利点は、パラメトリックモデルが不要で、インスタンスごとの最適化も必要としない点にある。導入コストが下がり、汎化性能も高まると考えられる。また、中間表現が正面1視点ではなく複数視点をカバーする動画であるため、1枚の肖像画像から頭頂部、後頭部、頭飾りなど従来は見落とされがちな領域を含む、より完全な頭部形状を復元できる。

著者によれば、広範な実験の結果、AudioLift が生成する3Dトーキングアバターは既存手法よりも極端な表情を捉えられ、形状の完全性が高く、360度すべての観察範囲でマルチビューの一貫性を維持できることが示された。これは、ユーザーが横や後ろからアバターを見ても、破綻や不自然な切り替わりが起きにくいことを意味する。

要点と分析を開く

記事インテリジェンス

研究者上級

要点

  • 3DMM や FLAME の係数の代わりにマルチビュー動画を中間表現として利用
  • 同期マルチビュー動画生成と不整合に頑健なガウシアン再構成の2段階構成
  • 1枚のポートレート画像から頭飾りを含む一貫した全頭形状を復元
  • 極端な表情、形状の完全性、360度のマルチビュー一貫性で改善を報告

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。