现代推荐系统越来越依赖于将多样化的查询动态路由到多个嵌入模型,以提升检索和排序的质量。然而,在现实条件下——例如存在对抗性查询、仅能获得赌博机反馈以及模型可观测性有限——这个问题仍然缺乏深入理解。来自arXiv的一篇新论文《Policy Regret for Embedding Model Routing: Contextual Bandits with Low-Rank Experts》对这一问题进行了系统性的形式化研究。作者为Yan Dai等三人,论文提交于2026年6月12日,属于机器学习(cs.LG)领域,同时涉及人工智能(cs.AI)和统计机器学习(stat.ML)。
论文首先将嵌入模型路由问题建模为对抗性上下文线性赌博机,其中上下文是用户查询,动作是候选物品,而专家则是作用于低秩潜在表示空间的嵌入模型。这种建模方式捕捉了实际系统中的关键挑战:查询可能带有对抗性,模型选择只能在部分信息下进行在线学习。研究者指出,标准的遗憾(regret)概念在此设定下要么存在结构误设(structural misspecification),要么在统计上难以处理(statistical intractability),因此需要新的理论框架。为此,他们识别出一类对数二次(log-quadratic)策略类,这类策略既具有足够的表达能力来捕捉查询相关的模型路由,又保持了良好的结构以便进行高效的在线学习。
在算法层面,论文提出了名为Hypentropy Policy Gradient(HPG)的策略梯度算法。该算法能够在信息不完整的情况下可证明地适应未知的低秩结构,并达到Õ(s√MT)的线性化策略遗憾。其中s表示专家的内在秩,M是模型数量,T是轮数。这一遗憾界避免了传统方法中随维度指数增长的维度灾难,表明算法在高维场景下仍能保持效率。最后,作者还给出了HPG的一个计算高效且无需参数调整的实现,进一步增强了其实用性。
总体而言,这项工作为嵌入模型路由提供了坚实的理论基础和实用的算法工具,对于构建更鲁棒和高效的推荐系统具有潜在的重要意义。论文的详细内容可通过arXiv获取,包括PDF和实验性HTML版本。