跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

無需所有令牌都走40步:擴散Transformer中異構步分配實現高效影片生成

文章摘要

本文提出異構步分配(HSA),一種訓練無關的推理演算法,根據速度動態為不同時空令牌分配不同步數預算,透過KV快取同步和快取尤拉更新,在不犧牲全域性上下文的情況下加速影片生成。在Wan-2和LTX-2模型上,HSA在50%和25%執行時下顯著優於先前方法,實現質量-執行時帕累托最優。

來源arXiv Computer Vision作者: Ernie Chu, Vishal M. Patel
無需所有令牌都走40步:擴散Transformer中異構步分配實現高效影片生成
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

擴散Transformer(DiT)已經在影片生成領域取得了令人矚目的成果,但在標準推理過程中,所有令牌都被統一分配相同數量的去噪步驟,這導致了巨大的計算開銷。實際上,人類視覺系統會自然忽略大量冗餘的運動資訊,而現有的密集模型卻對每一個時空令牌一視同仁,這顯然是不夠高效的。為了解決這一效率瓶頸,來自約翰霍普金斯大學的研究人員Ernie Chu和Vishal M. Patel提出了異構步分配(Heterogeneous Step Allocation, HSA),這是一種無需額外訓練的推理加速演算法。

HSA的核心創新在於根據每個時空令牌的運動速度來動態分配去噪步數預算。具體來說,模型會分析影片中不同區域的運動速度,對於運動活躍的區域(如人物動作、物體移動),分配更多的去噪步驟以確保細節質量;而對於靜態或緩慢變化的背景區域,則分配較少的步驟,從而大幅減少冗餘計算。然而,這種步數差異化會導致序列長度不一致的問題,因為不同令牌在去噪過程中處於不同的時間步。為了解決這個難題,HSA引入了一種KV快取同步機制:活躍的令牌可以關注完整的序列資訊,而非活躍的令牌則被完全跳過,同時全域性上下文資訊透過快取得以保留。此外,HSA還推導了一種快取尤拉更新方法,能夠在單次前向傳播中推進被跳過令牌的潛在狀態,無需額外的模型評估,從而進一步提升了效率。

研究團隊在Wan-2和LTX-2這兩個先進的影片生成模型上對HSA進行了全面的評估,涵蓋了文本到影片(T2V)和影像到影片(I2V)兩種任務。實驗結果顯示,HSA在質量與執行時的權衡上顯著優於此前最先進的快取方法和標準的流匹配基線,尤其是在激進加速的情況下(例如將執行時降低至50%或25%)。更關鍵的是,HSA無需進行昂貴的離線效能分析即可達到這種帕累托最優狀態,即使在嚴格的計算預算下也能穩健地保持影片的結構完整性和生成質量,避免了以往加速方法中常見的偽影和失真。

這一研究成果的意義深遠。它表明高解析度、長時長的影片生成有望在消費級GPU上實現即時執行,這將為內容創作、影視製作、虛擬現實以及遊戲開發等領域帶來革命性的變化。HSA演算法的簡潔性和高效性使其易於整合到現有的DiT模型中,無需修改模型架構或重新訓練,從而可以快速推動影片生成技術的實際應用落地。研究團隊的論文已在arXiv上公開,並提供了專案頁面供進一步參考。

展開要點與分析

文章情報

投資人進階

要點

  • HSA根據令牌的速度動態分配去噪步數,減少冗餘計算。
  • 引入KV快取同步機制,允許活躍令牌關注完整序列,跳過非活躍令牌。
  • 快取尤拉更新一步推進被跳過令牌的潛狀態,無需額外模型評估。
  • 在Wan-2和LTX-2模型上,HSA在激進加速下保持結構完整性和生成質量。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。