近年、ビジュアルテキスト圧縮（Visual Text Compression, VTC）は、長いコンテキストを効率的に処理する新しい手法として注目されています。VTCはテキストを画像にレンダリングし、視覚言語モデルで再エンコードすることで、サブワードトークン化に比べてデコーダトークンを3～20倍削減できます。しかし、トークン削減が下流タスクの性能に確実に結びつくわけではなく、タスクによって視覚パスがテキストパスを上回ることもあれば、大幅に劣ることもあります。圧縮率自体ではどのような結果になるかを予測できず、この不確実性がVTCの実用化を妨げていました。
この問題に対処するため、Lv Tangらの研究チームは、VTCを測度輸送（measure transport）として定式化する理論的枠組みを提案しました。テキストトークンと視覚トークンを経験確率測度とみなすことで、ViTパッチエンコーダが誘導する前方写像の輸送コストを、パッチ内集約による精度コストとパッチ間断片化によるカバレッジコストに分解できることを示しました。これらのコストは下流ラベルなしのプローブで推定可能です。
この定式化から、二つの実用的な機構が導かれます。第一に、入力ごとに視覚パスを使用するか否かを選択するラベルなしルーティング基準。第二に、高コスト領域を高解像度で再エンコードする輸送コストに基づく適応的フォビエーション機構です。
Qwen3-4Bモデルを用いて24のNLPデータセットで評価した結果、ラベルなしルールは70.8%（17/24）のデータセットでデータセットごとのオラクルに一致し、平均タスクスコアを3.3%向上させ、平均トークン数を10.3%削減しました。この研究は、VTCにおける情報損失の理論的理解を深めるとともに、長コンテキストモデルの効率的な展開に寄与するものです。