現代の推薦システムは、多様なクエリを複数の埋め込みモデルに動的にルーティングすることにますます依存している。しかし、敵対的クエリ、バンディットフィードバック、モデルの限られた観測可能性といった現実的な条件下では、この問題は十分に理解されていない。arXivの新しい論文「Policy Regret for Embedding Model Routing: Contextual Bandits with Low-Rank Experts」は、この問題を体系的に形式化して研究している。著者はYan Daiら3名で、論文は2026年6月12日に提出され、機械学習(cs.LG)分野に属し、人工知能(cs.AI)と統計的機械学習(stat.ML)にも関連している。
論文はまず、埋め込みモデルルーティング問題を敵対的文脈付き線形バンディットとしてモデル化する。ここで、文脈はユーザークエリ、行動は候補アイテム、専門家は低ランク潜在表現空間で動作する埋め込みモデルである。このモデル化は、実際のシステムにおける重要な課題を捉えている。クエリは敵対的である可能性があり、モデル選択は部分的な情報の下でオンライン学習される必要がある。研究者らは、この設定では標準的なリグレット概念が構造的誤指定または統計的扱いにくさに陥ることを指摘し、新しい理論的枠組みの必要性を示す。そのために、彼らは対数二次ポリシークラスを同定する。このクラスはクエリ依存のモデルルーティングを捉えるのに十分な表現力を持ちながら、効率的なオンライン学習を可能にする構造を備えている。
アルゴリズム面では、論文はHypentropy Policy Gradient(HPG)と呼ばれるポリシー勾配アルゴリズムを提案する。このアルゴリズムは、情報が不完全な状況で未知の低ランク構造に適応できることを証明可能であり、Õ(s√MT)の線形化ポリシーリグレットを達成する。ここでsは専門家の内在的ランク、Mはモデル数、Tはラウンド数である。このリグレット限界は、従来の方法で次元に対して指数関数的に増大する次元の呪いを回避し、高次元シナリオでも効率を維持できることを示している。最後に、著者らはHPGの計算効率が高くパラメータ調整が不要な実装を提供し、実用性をさらに高めている。
全体として、この研究は埋め込みモデルルーティングに堅牢な理論的基盤と実用的なアルゴリズムツールを提供し、よりロバストで効率的な推薦システムの構築に潜在的に重要な意味を持つ。論文の詳細はarXivで入手可能で、PDFや実験的なHTML版が提供されている。