UniVL是一種新穎的統一視覺語言嵌入方法,旨在解決空間接地上下文圖像生成任務。與傳統的圖像條件生成方法不同,傳統方法需要分別使用視覺編碼器和文本編碼器處理參考圖像和全局文本提示,而UniVL通過將文本指令直接渲染到空間掩碼上,創建一個統一的視覺輸入,從而消除了對單獨文本編碼器的需求。這一設計不僅簡化了模型架構,還顯著降低了推理時的計算負擔。
UniVL的核心在於其編碼器的設計。該編碼器基於光學字符識別(OCR)預訓練的骨幹網絡進行改進,能夠光學地讀取統一的條件輸入,並生成一種名為fVIL的嵌入表示。這種嵌入將視覺信息、語義意圖和空間位置融合在一個單一的標記序列中。為了有效利用這一嵌入,研究者提出了兩階段流水線:第一階段將UniVL嵌入與變分自編碼器(VAE)的嵌入空間對齊;第二階段則使用UniVL嵌入直接條件化預訓練的擴散骨幹網絡,完全取代了T5等獨立文本編碼器。這一流水線確保了UniVL嵌入能夠無縫地融入現有的擴散模型中,無需對生成網絡進行大量修改。
在性能評估方面,研究者構建了UniVL-ImgGen基準數據集,該數據集包含477K張帶有空間掩碼標註的圖像,覆蓋了多種場景和物體類別。實驗結果表明,UniVL在圖像質量上顯著優於基於文本提示的基線方法:FID從14降至11,PSNR從16提升至20。更重要的是,由於移除了文本編碼器,推理時的TFLOPs減少了高達52%,運行時間縮短了44%。這些指標的提升不僅表明UniVL在生成質量上的優勢,也展示了其在計算效率上的巨大潛力。消融研究進一步驗證了各個組件的貢獻,包括OCR預訓練、兩階段對齊以及嵌入融合策略等。
UniVL的提出為可控圖像生成開闢了新方向,特別是在需要精確控制物體位置和語義的場景中,如增強現實、遊戲開發和交互式設計等。通過將語言指令直接嵌入空間位置,UniVL實現了更直觀、高效的交互方式,同時保持了高質量的生成效果。此外,統一視覺輸入的設計也使得模型更容易適應新的任務和數據集,具有很好的泛化能力。未來,研究者計劃將UniVL擴展到視頻生成和3D場景生成等更復雜的領域,進一步驗證其統一條件範式的有效性。