跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

DTG-Restore:無需訓練的視頻超分辨率擴散細化方法

文章摘要

本文提出DTG-Restore,一種無需訓練的視頻超分辨率框架,通過解耦時間引導(DTG)來利用視頻擴散模型先驗,增強扭曲和低分辨率視頻。該方法在更乾淨的擴散時間步評估無條件分支,提供前瞻先驗,保留幾何結構同時抑制扭曲內容的複製。與任何現成的恢復模塊即插即用,提升了感知連貫性和結構合理性。同時發佈了包含4400個扭曲480p視頻的GenWarp480基準測試,專注於生成式退化如扭曲面部、身體錯位等。實驗表明,該方法在不需重新訓練的情況下顯著提高了結構保真度和時間穩定性。

來源arXiv Computer Vision作者: Hidir Yesiltepe, Koutilya PNVR, Gaurav Pathak, Navaneeth Bodla, Bharat Singh, Pinar Yanardag, Jinrong Xie
DTG-Restore:無需訓練的視頻超分辨率擴散細化方法
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近日,一項名為DTG-Restore的新研究為視頻超分辨率領域帶來了突破性進展。這項由Hidir Yesiltepe及其同事提出的方法,無需任何模型訓練即可顯著提升低分辨率或扭曲視頻的質量,基於視頻擴散模型的強大先驗知識。

傳統方法在利用擴散模型先驗進行恢復時,常受限於標準無分類器引導中條件分支與非條件分支的強耦合。DTG-Restore通過創新的解耦時間引導(Decoupled Time Guidance, DTG)巧妙解決了這一問題。其核心思想是在一個更乾淨的擴散時間步上評估非條件分支,從而獲得一個“前瞻”先驗。這一先驗能夠保留視頻的幾何結構,同時有效抑制扭曲內容的複製。在採樣過程中,該時間偏差逐漸減弱,使模型能夠從結構校正平滑過渡到細節優化,整個過程無需重新訓練。

DTG-Restore的另一個重要優勢是其即插即用的靈活性。它可以與任何現成的視頻恢復模塊無縫結合,顯著提升感知連貫性,並在AI生成視頻和真實世界視頻中都恢復出合理的結構。為了系統評估這類方法的性能,研究團隊還精心構建了GenWarp480基準測試集。該數據集包含從多種文本到視頻模型生成的4400個扭曲480p視頻,專門針對典型的生成式退化問題,如扭曲的面部、身體錯位和空間偽影,為評估算法對生成錯誤的魯棒性提供了專門的測試平台。

大量實驗表明,DTG-Restore在不進行任何模型訓練的情況下,在結構保真度和時間穩定性方面均取得了顯著改進。這項工作為視頻恢復領域提供了一種高效且實用的新思路,尤其適用於處理由生成模型引入的複雜退化。

展開要點與分析

文章情報

投資人進階

要點

  • 提出DTG-Restore,無需訓練即可利用視頻擴散模型先驗進行超分辨率恢復。
  • 引入解耦時間引導(DTG),通過在不同時間步評估無條件分支來提供前瞻先驗。
  • 支持即插即用,可與任何現有恢復模塊結合,提升感知質量。
  • 發佈GenWarp480基準測試,包含4400個扭曲視頻,用於評估生成式退化下的魯棒性。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。