跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

UniVL:用於空間接地上下文圖像生成的統一視覺語言嵌入

文章摘要

UniVL提出一種統一視覺語言嵌入方法,通過將文本指令渲染到空間掩碼上,消除對獨立文本編碼器的需求,實現高效、可控的圖像生成。在UniVL-ImgGen基準上,FID從14降至11,PSNR從16升至20,推理TFLOPs減少52%,運行時間減少44%。

來源arXiv Computer Vision作者: Jiayun Wang, Yu Wang, Weijie Gan, Zhenting Wang, Wei Wei
UniVL:用於空間接地上下文圖像生成的統一視覺語言嵌入
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

UniVL是一種新穎的統一視覺語言嵌入方法,旨在解決空間接地上下文圖像生成任務。與傳統的圖像條件生成方法不同,傳統方法需要分別使用視覺編碼器和文本編碼器處理參考圖像和全局文本提示,而UniVL通過將文本指令直接渲染到空間掩碼上,創建一個統一的視覺輸入,從而消除了對單獨文本編碼器的需求。這一設計不僅簡化了模型架構,還顯著降低了推理時的計算負擔。

UniVL的核心在於其編碼器的設計。該編碼器基於光學字符識別(OCR)預訓練的骨幹網絡進行改進,能夠光學地讀取統一的條件輸入,並生成一種名為fVIL的嵌入表示。這種嵌入將視覺信息、語義意圖和空間位置融合在一個單一的標記序列中。為了有效利用這一嵌入,研究者提出了兩階段流水線:第一階段將UniVL嵌入與變分自編碼器(VAE)的嵌入空間對齊;第二階段則使用UniVL嵌入直接條件化預訓練的擴散骨幹網絡,完全取代了T5等獨立文本編碼器。這一流水線確保了UniVL嵌入能夠無縫地融入現有的擴散模型中,無需對生成網絡進行大量修改。

在性能評估方面,研究者構建了UniVL-ImgGen基準數據集,該數據集包含477K張帶有空間掩碼標註的圖像,覆蓋了多種場景和物體類別。實驗結果表明,UniVL在圖像質量上顯著優於基於文本提示的基線方法:FID從14降至11,PSNR從16提升至20。更重要的是,由於移除了文本編碼器,推理時的TFLOPs減少了高達52%,運行時間縮短了44%。這些指標的提升不僅表明UniVL在生成質量上的優勢,也展示了其在計算效率上的巨大潛力。消融研究進一步驗證了各個組件的貢獻,包括OCR預訓練、兩階段對齊以及嵌入融合策略等。

UniVL的提出為可控圖像生成開闢了新方向,特別是在需要精確控制物體位置和語義的場景中,如增強現實、遊戲開發和交互式設計等。通過將語言指令直接嵌入空間位置,UniVL實現了更直觀、高效的交互方式,同時保持了高質量的生成效果。此外,統一視覺輸入的設計也使得模型更容易適應新的任務和數據集,具有很好的泛化能力。未來,研究者計劃將UniVL擴展到視頻生成和3D場景生成等更復雜的領域,進一步驗證其統一條件範式的有效性。

展開要點與分析

文章情報

投資人進階

要點

  • UniVL提出空間接地上下文圖像生成任務,將條件設定從雙編碼器改為統一視覺輸入。
  • UniVL編碼器基於OCR預訓練,光學讀取統一條件並生成融合視覺、語義和空間位置的嵌入。
  • 兩階段流水線先對齊VAE嵌入空間,再以UniVL嵌入條件化擴散骨幹,完全消除文本編碼器。
  • 在新建的477K圖像基準上,UniVL顯著提升圖像質量並降低計算開銷。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。