跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

SkillLens:面向成本高效LLM智能体的自适应多粒度技能复用

文章摘要

SkillLens提出了一种分层技能演化框架,将技能组织为四层图结构(策略、方案、过程、原语),并通过混合粒度检索实现高效复用。在任务执行中,系统先检索相关技能种子,经由度数校正随机游走扩展,再通过验证器决定每个单元的接受、分解、重写或跳过。理论分析表明混合粒度适配在稀疏不匹配假设下具有次线性成本,且演化更新规则单调提升验证目标。在MuLocbench和ALFWorld上,SkillLens分别取得了6.31个百分点的缺陷定位Acc@1提升和从45.00%到51.31%的成功率提升。

来源arXiv AI作者: Yongliang Miao, Ziyang Yu, Liang Zhao, Bowen Zhu, Hasibul Haque
SkillLens:面向成本高效LLM智能体的自适应多粒度技能复用
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

大型语言模型(LLM)智能体在解决复杂任务时,常常需要复用已有的程序性经验,即技能。传统的技能库通常将技能视为扁平的、单一粒度的提示块,这带来了一个两难问题:注入粗粒度技能可能引入无关或误导性上下文,而重写整个技能又成本高昂且往往不必要。为应对这一挑战,来自科研团队的研究者们提出了SkillLens——一种自适应的多粒度技能复用框架,旨在兼顾复用效率与适应性。

SkillLens的核心创新在于构建了一个分层技能图,将技能组织为四个层次:策略(policies)、方案(strategies)、过程(procedures)和原语(primitives)。这种四层结构从高层的抽象指导到低层的具体操作,形成了一个渐进式细化的技能体系。当面对一个新任务时,系统首先检索语义相关的技能种子,然后通过度数校正的随机游走在技能图上扩展这些种子。这一步的关键在于,随机游走不仅考虑了图结构信息,还通过度数校正避免了偏向高度数节点的偏差,从而更公平地探索相关技能。随后,一个训练好的验证器对每个访问到的技能单元进行决策:它可以选择直接接受(复用完整单元)、分解为更细粒度的子技能、重写局部不匹配的部分,或者跳过不相关的单元。这种动态选择机制使得智能体能够直接复用兼容的子技能,而仅对局部不匹配的组件进行适配,从而大幅降低了不必要的计算开销。

理论上,研究者证明了SkillLens的混合粒度适配在稀疏不匹配假设下具有次线性成本,这意味着随着任务复杂度的增加,额外适配成本的增长远低于线性。同时,演化更新规则(包括技能库和验证器的持续优化)能够单调改进验证目标,直至达到局部最优。这为系统的长期稳定性提供了保证。

实验方面,SkillLens在两个具有挑战性的基准上进行了评估:MuLocbench(缺陷定位基准)和ALFWorld(具身任务基准)。在MuLocbench上,SkillLens相比强基线方法实现了高达6.31个百分点的Acc@1提升;在ALFWorld上,智能体的成功率从45.00%提升至51.31%,提升幅度超过14%。这些结果证明了SkillLens在降低成本的同时显著提升了任务性能。

总体而言,SkillLens为LLM智能体的技能复用提供了一种成本高效的新范式。其分层图结构和动态验证机制不仅提高了技能复用的精准度,还通过局部适配避免了全局重写的高昂代价。未来,研究者计划探索更复杂的图结构以及更高效的验证器设计,以进一步提升系统的可扩展性和鲁棒性。

展开要点与分析

文章情报

工程师进阶

要点

  • SkillLens将技能组织为策略、方案、过程、原语四层图结构,支持混合粒度检索。
  • 通过随机游走和验证器实现技能的动态选择与局部适配,降低冗余成本。
  • 理论证明混合粒度适配成本为次线性,且演化更新单调收敛至局部最优。
  • 在缺陷定位和具身任务中显著超越基线方法,成功率提升超过6个百分点。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。