視覺Transformer（ViT）自編碼器近年來在影像編碼領域展現出巨大潛力，其重建質量優於傳統的卷積自編碼器。然而，現有ViT自編碼器存在兩大核心問題：一是在訓練解析度之外的影像上效能顯著下降，二是依賴對抗性損失（如GAN）導致難以穩定擴充套件到更大規模。此前，ViTok（Hansen-Estruch等人，2025）的研究揭示了壓縮率r在重建與生成之間的權衡關係——較低的r雖然能提升重建質量，但會增加生成難度。因此，提升自編碼器的重建能力是獲得更優帕累託權衡的關鍵。
針對上述挑戰，來自多所機構的研究人員（包括Philippe Hansen-Estruch、Jiahui Chen等）提出了ViTok-v2，透過兩項關鍵創新突破侷限。首先，引入了名為NaFlex的原生解析度支援機制，使模型能夠靈活處理任意解析度和寬高比的輸入，無需固定輸入尺寸。這一機制透過調整注意力視窗和位置編碼，實現了跨解析度的泛化能力。其次，提出了基於DINOv3的感知損失函式，替代了傳統的LPIPS和GAN損失。DINOv3損失利用自監督視覺特徵來指導重建，不僅避免了對抗訓練的不穩定性，還在不同模型規模下保持了訓練的一致性。ViTok-v2在約20億張來自公開資料集的影像上進行了訓練，引數量達到50億，成為迄今為止最大的影像自編碼器。
在效能評估中，ViTok-v2在256p解析度下達到或超越了當前最先進的重建質量，在512p及更高解析度上則顯著領先於所有基線方法，包括傳統的VQGAN和之前的ViTok模型。此外，在與流匹配生成器的聯合擴充套件實驗中，研究人員系統性地測試了不同規模的組合，發現同時擴大自編碼器和生成器的規模能夠有效推進重建-生成權衡的帕累託前沿。具體而言，更大的自編碼器在相同生成器規模下提供了更好的重建，從而允許生成器專注於高保真生成。這一成果不僅為構建更高效的影像生成系統奠定了基礎，也為視覺生成領域的進一步研究提供了重要的參考方向。論文已提交至arXiv（編號2605.05331），並於2026年5月6日釋出。