Vision Transformer（ViT）オートエンコーダは、画像トークナイザーとして注目を集めており、従来の畳み込み型トークナイザーよりも優れた再構成を提供します。しかし、既存のViTトークナイザーには、トレーニング解像度以外では性能が低下するという問題と、敵対的損失（GANなど）に依存するため安定したスケーリングが難しいという問題があります。先行研究ViTok（Hansen-Estruchら、2025）では、圧縮率rが再構成と生成のトレードオフを媒介し、rが低いほど再構成は向上するが生成が困難になることが示されました。したがって、トークナイザーの再構成品質を向上させることが、よりパレート最適なトークナイザーを得る鍵となります。
この課題に対し、Philippe Hansen-Estruch、Jiahui Chenらを含む研究チームはViTok-v2を提案し、2つの革新的な手法で限界を克服しました。第一に、NaFlexと呼ばれるネイティブ解像度サポート機構を導入し、モデルが任意の解像度やアスペクト比の入力に柔軟に対応できるようにしました。これは、アテンションウィンドウと位置エンコーディングを調整することで、解像度横断的な汎化を実現します。第二に、DINOv3知覚損失を新たに採用し、LPIPSとGANの目的関数を置き換えました。DINOv3損失は、自己教師あり学習で得られた視覚特徴を利用して再構成を導くため、敵対的訓練の不安定性を回避し、あらゆるスケールで安定したトレーニングを可能にします。ViTok-v2は、公開データセットから収集された約20億枚の画像でトレーニングされ、パラメータ数は50億に達し、現時点で最大の画像オートエンコーダです。
性能評価では、ViTok-v2は256p解像度で最先端の再構成品質に匹敵またはそれを上回り、512p以上の解像度ではVQGANや従来のViTokなどすべてのベースラインを大幅に上回りました。さらに、フローマッチング生成器との共同スケーリング実験において、研究チームはオートエンコーダと生成器の両方を拡大することで、再構成と生成のトレードオフにおけるパレートフロンティアが前進することを実証しました。具体的には、より大きなオートエンコーダは同じ生成器規模でより良い再構成を提供し、生成器は高忠実度生成に集中できるようになります。この成果は、より効率的な画像生成システムの基盤となるだけでなく、ビジュアル生成分野の今後の研究に重要な方向性を示しています。本論文はarXiv（ID: 2605.05331）に投稿され、2026年5月6日に公開されました。