本論文「微分可能な効率的オペレータ探索」は、Xiaohuan Pei 氏ら7名の著者による研究成果で、2026年6月3日に arXiv に投稿され、機械学習（cs.LG）に分類されるとともに人工知能（cs.AI）にも関連付けられている。論文の焦点は、効率的なマルチモーダル基盤モデルにおいて、推論時の計算コストを下げるために視覚などのモダリティのトークン数を削減する手設計のオペレータが広く使われている点にある。
著者らが提示する中心的な見方は、プルーニング、マージ、プーリング、適応的再重み付けといった一見異なるオペレータは、実は共通する単一のオペレータ空間における異なる領域として理解できるというものである。既存手法の違いは、手法そのものの本質的な断絶ではなく、この空間内でのパラメータ選択や領域の切り分け方に由来する。この統一的な視点に基づき、論文は「Efficient Operator Search」と呼ぶ枠組みを導入し、従来は人手の経験に依存していた設計作業を学習可能な探索問題へと置き換える。
この枠組みは微分可能であり、三つの事柄を同時に探索する。すなわち、ネットワークのどの層でトークン削減を行うか、各層でいくつのトークンを保持するか、そして削減されたトークンの情報をどのように処理するかである。対応する探索空間は層の有効化、保持予算、オペレータの挙動をそれぞれパラメータ化し、探索方針は片側の予算制約とコスト制約の下でタスク性能を最適化する。この定式化の重要な性質は、代表的な手設計のベースラインが探索空間の特殊ケースとして自然に包含される点にあり、さらに探索によって個別の手設計を超えたハイブリッドなオペレータも発見できることである。
マルチモーダルベンチマークでの実験では、探索されたオペレータが精度と効率の間で競争力のあるトレードオフを達成し、特に視覚トークンを大幅に削減する積極的な設定で有効性が示された。著者らはこの結果を踏まえ、効率的なマルチモーダル推論の設計を「オペレータの手設計」から「微分可能なオペレータ探索」へと捉え直せる可能性を示唆している。これにより、個々のオペレータを経験的に設計する代わりに、タスク要求とリソース制約に応じて適切な削減戦略をモデル自身が自動的に見つけられるようになる。