跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

AudioLift:透過多視角影片生成實現音訊驅動的單圖到全頭高斯頭像

文章摘要

AudioLift 提出一種兩階段框架,用生成的多視角影片作為中間表示,從單張肖像圖構建音訊驅動的全頭 3D 說話頭像,擺脫對 3DMM、FLAME 等引數化人臉模型的依賴,也無需逐例項最佳化,在極端表情和全 360° 視角一致性上優於現有方法。

來源arXiv Computer Vision作者: Zhuoyuan Jiang, Weijie Lyu, Xiaoyuan Wang, Tiancheng Shen, Ming-Hsuan Yang
AudioLift:透過多視角影片生成實現音訊驅動的單圖到全頭高斯頭像
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

AudioLift 是 arXiv 上於 2026 年 10 月 22 日提交的一篇計算機視覺與模式識別(cs.CV)方向的新論文,作者為 Zhuoyuan Jiang 等共 5 人,提交人為 Weijie Lyu。論文標題為《AudioLift: Audio-Driven Single Image to Full-Head Gaussian Avatar via Multi-view Video Generation》,即“透過多視角影片生成實現音訊驅動的單圖到全頭部高斯虛擬形象”。該論文的 arXiv 編號為 2610.31747,DOI 為 10.48550/arXiv.2610.31747(由 DataCite 發放,尚待註冊),並提供了專案主頁連結。

論文指出現有 3D 說話虛擬形象方法存在明顯侷限。當前主流方案大多依賴引數化人臉模型,例如 3DMM 或 FLAME;這類模型使用緊湊的動作表示來描述面部運動,因而在合成極端表情時能力受限,同時也難以對頭飾等配飾進行建模。換言之,引數化模型的表達空間被其固定的拓撲和維度所約束,導致生成的虛擬形象在表情幅度和外觀完整性上都難以達到理想效果。

為繞開這些限制,作者提出 AudioLift,一個兩階段的框架,其核心思路是把生成的多視角影片作為中間表示,用於音訊驅動的虛擬形象生成,並且整個流程既不依賴引數化人臉模型,也不需要針對每個例項進行逐例項最佳化。第一階段的重點是同步多視角影片生成:給定單張肖像影像和音訊輸入,框架生成在多個視角下保持同步的多視角影片序列。第二階段則是對不一致性具有魯棒性的高斯重建階段,從這些多視角影片中恢復出連貫的全頭部幾何結構。之所以強調“對不一致性魯棒”,是因為生成的多視角影片之間不可避免地存在跨視角的細微偏差,重建階段需要能夠容忍並吸收這些偏差,才能得到一致的三維結果。

作者表示,大量實驗表明 AudioLift 生成的 3D 說話虛擬形象能夠捕捉比現有方法更誇張的面部表情,同時在幾何完整性上有所提升,並在完整的 360 度觀看範圍內保持較強的多視角一致性。這意味著使用者從任意角度觀察該虛擬形象時,都能獲得較為連貫的外觀,而不僅限於正面視角。由於該方法以單張肖像影像為輸入起點,並輸出全頭部的高斯虛擬形象,它在虛擬主播、遠端會議、遊戲角色與沉浸式社交等場景中具有潛在應用價值;不過論文摘要並未給出定量指標、資料集規模或執行開銷等細節,這些內容需查閱論文全文與專案主頁進一步確認。

從發表資訊看,這是一篇標註為“new”的首次提交版本(v1),提交時間為 2026 年 10 月 22 日 17:59:54 UTC,全文檔案約 37,372 KB,屬於 cs.CV 分類,釋出時間落在 2026 年 10 月的瀏覽區間內。

展開要點與分析

文章情報

研究者進階

要點

  • 以多視角影片作為中間表示,繞開 3DMM/FLAME 引數化模型的緊湊動作空間限制
  • 兩階段流程:同步多視角影片生成 + 抗不一致的高斯重建
  • 可從單張肖像圖恢復連貫的全頭幾何,包含頭飾等配件
  • 在極端表情、幾何完整性和 360° 多視角一致性上表現更強

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。