视觉Transformer（ViT）自编码器近年来在图像编码领域展现出巨大潜力，其重建质量优于传统的卷积自编码器。然而，现有ViT自编码器存在两大核心问题：一是在训练分辨率之外的图像上性能显著下降，二是依赖对抗性损失（如GAN）导致难以稳定扩展到更大规模。此前，ViTok（Hansen-Estruch等人，2025）的研究揭示了压缩率r在重建与生成之间的权衡关系——较低的r虽然能提升重建质量，但会增加生成难度。因此，提升自编码器的重建能力是获得更优帕累托权衡的关键。
针对上述挑战，来自多所机构的研究人员（包括Philippe Hansen-Estruch、Jiahui Chen等）提出了ViTok-v2，通过两项关键创新突破局限。首先，引入了名为NaFlex的原生分辨率支持机制，使模型能够灵活处理任意分辨率和宽高比的输入，无需固定输入尺寸。这一机制通过调整注意力窗口和位置编码，实现了跨分辨率的泛化能力。其次，提出了基于DINOv3的感知损失函数，替代了传统的LPIPS和GAN损失。DINOv3损失利用自监督视觉特征来指导重建，不仅避免了对抗训练的不稳定性，还在不同模型规模下保持了训练的一致性。ViTok-v2在约20亿张来自公开数据集的图像上进行了训练，参数量达到50亿，成为迄今为止最大的图像自编码器。
在性能评估中，ViTok-v2在256p分辨率下达到或超越了当前最先进的重建质量，在512p及更高分辨率上则显著领先于所有基线方法，包括传统的VQGAN和之前的ViTok模型。此外，在与流匹配生成器的联合扩展实验中，研究人员系统性地测试了不同规模的组合，发现同时扩大自编码器和生成器的规模能够有效推进重建-生成权衡的帕累托前沿。具体而言，更大的自编码器在相同生成器规模下提供了更好的重建，从而允许生成器专注于高保真生成。这一成果不仅为构建更高效的图像生成系统奠定了基础，也为视觉生成领域的进一步研究提供了重要的参考方向。论文已提交至arXiv（编号2605.05331），并于2026年5月6日发布。