跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

嵌入模型路由的策略遗憾:基于低秩专家的上下文赌博机

文章摘要

本文研究推荐系统中动态路由查询到多个嵌入模型的问题,将其形式化为对抗性上下文线性赌博机与低秩专家,提出Hypentropy策略梯度算法,实现避免维度灾难的策略遗憾界。

来源arXiv Machine Learning作者: Yan Dai, Negin Golrezaei, Patrick Jaillet
嵌入模型路由的策略遗憾:基于低秩专家的上下文赌博机
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

现代推荐系统越来越依赖于将多样化的查询动态路由到多个嵌入模型,以提升检索和排序的质量。然而,在现实条件下——例如存在对抗性查询、仅能获得赌博机反馈以及模型可观测性有限——这个问题仍然缺乏深入理解。来自arXiv的一篇新论文《Policy Regret for Embedding Model Routing: Contextual Bandits with Low-Rank Experts》对这一问题进行了系统性的形式化研究。作者为Yan Dai等三人,论文提交于2026年6月12日,属于机器学习(cs.LG)领域,同时涉及人工智能(cs.AI)和统计机器学习(stat.ML)。

论文首先将嵌入模型路由问题建模为对抗性上下文线性赌博机,其中上下文是用户查询,动作是候选物品,而专家则是作用于低秩潜在表示空间的嵌入模型。这种建模方式捕捉了实际系统中的关键挑战:查询可能带有对抗性,模型选择只能在部分信息下进行在线学习。研究者指出,标准的遗憾(regret)概念在此设定下要么存在结构误设(structural misspecification),要么在统计上难以处理(statistical intractability),因此需要新的理论框架。为此,他们识别出一类对数二次(log-quadratic)策略类,这类策略既具有足够的表达能力来捕捉查询相关的模型路由,又保持了良好的结构以便进行高效的在线学习。

在算法层面,论文提出了名为Hypentropy Policy Gradient(HPG)的策略梯度算法。该算法能够在信息不完整的情况下可证明地适应未知的低秩结构,并达到Õ(s√MT)的线性化策略遗憾。其中s表示专家的内在秩,M是模型数量,T是轮数。这一遗憾界避免了传统方法中随维度指数增长的维度灾难,表明算法在高维场景下仍能保持效率。最后,作者还给出了HPG的一个计算高效且无需参数调整的实现,进一步增强了其实用性。

总体而言,这项工作为嵌入模型路由提供了坚实的理论基础和实用的算法工具,对于构建更鲁棒和高效的推荐系统具有潜在的重要意义。论文的详细内容可通过arXiv获取,包括PDF和实验性HTML版本。

展开要点与分析

文章情报

工程师进阶

要点

  • 将嵌入模型路由形式化为对抗性上下文线性赌博机,专家具有低秩结构。
  • 指出现有遗憾概念存在结构误设或统计不可处理性问题,并识别出对数二次策略类。
  • 提出Hypentropy策略梯度(HPG)算法,可达Õ(s√MT)线性化策略遗憾,避免维度灾难。
  • 提供计算高效且无需参数调整的HPG实现。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。