視覚言語モデル（VLM）の推論コストは、処理するビジュアルトークンの数に大きく左右されます。トークン数を減らすプルーニングは一般的な効率化手法ですが、従来の研究の多くは「どのトークンを残すべきか」だけを問題にしてきました。CoverPruner は、この「残す側」の発想では、スコアが高いだけで冗長なトークンが残り、削除された視覚領域に近い代表が存在しないまま重要な証拠が失われる可能性があると指摘します。そこで、あるトークンが削除されたときに、どの生き残りトークンがそのトークンの代わりに表現を担うのか、という「需要側」の問いを立てます。
CoverPruner は、ビジュアルトークンプルーニングを表現被覆最大化（Representational Coverage Maximization, RCM）として定式化します。モデルが必要とする視覚情報をクエリ重みとして表し、投影されたビジュアルトークン全体を生き残りトークン群で覆うことを目指します。RCM を実装する際には、プロジェクタ空間での被覆率を利用し、軽量な第一層アテンションプローブでトークン間の関係を推定します。モデルの追加学習は不要で、さまざまな VLM アーキテクチャに適用しやすいのが特長です。
この方法には二つの利点があります。第一に、プルーニングを「高スコアなトークンの選抜」ではなく「被覆の最適化」と捉えることで、冗長なトークンが予算を独占しないようにできます。第二に、学習不要の設計により、既存の様々なモデルへ容易に展開できることです。
論文では、複数の主流 VLM アーキテクチャと圧縮率を対象に実験が行われました。その結果、CoverPruner は比較した全ての既存手法の中で平均精度が最も高く、特に圧縮率が高い設定での改善が大きいことが示されました。これは、限られたトークン予算では、重要度スコアだけで選ぶよりも、削除されたトークンを誰が代表するかを考慮することが性能維持に有効であることを意味します。
本研究は Qingchan Zhu 氏を含む6名の著者による論文で、2026年9月2日に arXiv:2609.03158 として投稿され、EMNLP 2026 本体（main conference）に採録されています。関連分野はコンピュータビジョン（cs.CV）、言語処理（cs.CL）、機械学習（cs.LG）です。VLMの高効率な推論を目指す研究として重要な視点を提供しています。