本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

埋め込みモデルルーティングのためのポリシーリグレット:低ランク専門家を用いた文脈付きバンディット

記事の要約

本論文は、埋め込みモデルルーティングを低ランク専門家を持つ敵対的文脈付き線形バンディットとして形式化し、次元の呪いを回避するポリシーリグレットを達成するHypentropy Policy Gradientアルゴリズムを提案する。

ソースarXiv Machine Learning著者: Yan Dai, Negin Golrezaei, Patrick Jaillet
埋め込みモデルルーティングのためのポリシーリグレット:低ランク専門家を用いた文脈付きバンディット
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

現代の推薦システムは、多様なクエリを複数の埋め込みモデルに動的にルーティングすることにますます依存している。しかし、敵対的クエリ、バンディットフィードバック、モデルの限られた観測可能性といった現実的な条件下では、この問題は十分に理解されていない。arXivの新しい論文「Policy Regret for Embedding Model Routing: Contextual Bandits with Low-Rank Experts」は、この問題を体系的に形式化して研究している。著者はYan Daiら3名で、論文は2026年6月12日に提出され、機械学習(cs.LG)分野に属し、人工知能(cs.AI)と統計的機械学習(stat.ML)にも関連している。

論文はまず、埋め込みモデルルーティング問題を敵対的文脈付き線形バンディットとしてモデル化する。ここで、文脈はユーザークエリ、行動は候補アイテム、専門家は低ランク潜在表現空間で動作する埋め込みモデルである。このモデル化は、実際のシステムにおける重要な課題を捉えている。クエリは敵対的である可能性があり、モデル選択は部分的な情報の下でオンライン学習される必要がある。研究者らは、この設定では標準的なリグレット概念が構造的誤指定または統計的扱いにくさに陥ることを指摘し、新しい理論的枠組みの必要性を示す。そのために、彼らは対数二次ポリシークラスを同定する。このクラスはクエリ依存のモデルルーティングを捉えるのに十分な表現力を持ちながら、効率的なオンライン学習を可能にする構造を備えている。

アルゴリズム面では、論文はHypentropy Policy Gradient(HPG)と呼ばれるポリシー勾配アルゴリズムを提案する。このアルゴリズムは、情報が不完全な状況で未知の低ランク構造に適応できることを証明可能であり、Õ(s√MT)の線形化ポリシーリグレットを達成する。ここでsは専門家の内在的ランク、Mはモデル数、Tはラウンド数である。このリグレット限界は、従来の方法で次元に対して指数関数的に増大する次元の呪いを回避し、高次元シナリオでも効率を維持できることを示している。最後に、著者らはHPGの計算効率が高くパラメータ調整が不要な実装を提供し、実用性をさらに高めている。

全体として、この研究は埋め込みモデルルーティングに堅牢な理論的基盤と実用的なアルゴリズムツールを提供し、よりロバストで効率的な推薦システムの構築に潜在的に重要な意味を持つ。論文の詳細はarXivで入手可能で、PDFや実験的なHTML版が提供されている。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 埋め込みモデルルーティングを低ランク専門家を持つ敵対的文脈付き線形バンディットとして形式化。
  • 標準的なリグレット概念の構造的誤指定と統計的困難性を指摘し、対数二次ポリシークラスを同定。
  • Hypentropy Policy Gradient(HPG)を提案し、Õ(s√MT)の線形化ポリシーリグレットを達成、次元の呪いを回避。
  • 計算効率が高くパラメータフリーなHPGの実装を提供。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。