跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

HIDRA:用于无回放终身模仿学习的层级双路由注意力机制

文章摘要

HIDRA 是一种面向无回放、单遍终身模仿学习的新型结构化路由框架。它通过层级双注意力机制,将指令级专家检索与上下文相关细化解耦,并引入键级几何正则化来稳定表示漂移下的路由。在 LIBERO 基准测试中,HIDRA 持续优于无回放和有回放基线,在干扰和语言变化较强时增益更明显。

来源arXiv Robotics作者: Fanqi Yu, Matteo Tiezzi, Cigdem Beyan, Tommaso Apicella, Vittorio Murino
HIDRA:用于无回放终身模仿学习的层级双路由注意力机制
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

在机器人学习领域,让智能体在真实环境中持续从多模态示范中学习,是一项长期存在的挑战。许多现实部署场景不允许系统保存或反复回放过往数据,这迫使研究者转向一种更为苛刻的设定:无回放的、单次遍历的终身模仿学习。在这一设定下,模型依次接收任务流,每个任务的数据只出现一次,更新后即被丢弃。论文《HIDRA: Hierarchical Dual-Routing Attention for Replay-Free Lifelong Imitation Learning》正是围绕这一难题展开,作者为 Fanqi Yu、Matteo Tiezzi、Cigdem Beyan、Tommaso Apicella 与 Vittorio Murino,该工作已被 NeurIPS 2026 会议接收。

问题的核心在于表示漂移。随着模型在任务序列上不断更新参数,其内部的表示空间会逐渐发生形变。对于采用专家路由机制的架构而言,这种漂移带来的后果尤为明显:路由干扰会使原本负责某个任务的专家被错误地选中,专家选择的质量随着学习进程不断下降。由于无法回放旧数据来校正这种偏差,错误会累积并加剧,最终削弱模型对早期任务的保持能力,也会拖累对新任务的迁移效果。

为解决该问题,作者提出了 HIDRA,一个结构化路由框架,其关键设计是分层双注意力机制。该机制将两个层次的决策解耦:第一层负责指令级别的专家检索,即根据语言指令找出候选的专家集合;第二层则依赖上下文进行细化,结合当前观测信息对候选结果做进一步调整。这种分层设计避免了两类信息在同一注意力过程中相互纠缠,从而减轻路由干扰。

除双注意力外,HIDRA 还引入了一项键级别的几何正则化,用于在表示漂移的情况下稳定路由。该正则项同时施加两种约束:一方面要求同一任务内部的键表示保持对齐,另一方面要求不同任务之间的键表示彼此分离。前者保障了任务内检索的一致性,后者则减少了跨任务的混淆,使专家选择在长期更新中依然可靠。得益于这种结构,HIDRA 能够维护一个可扩展的专家集合,随着新任务到来不断扩充,而无需访问历史数据。

在实验部分,作者在多个 LIBERO 基准测试套件上评估了 HIDRA,并特意构造了更具挑战性的变体,其中包括异构任务序列以及经过改述的语言指令。这些设置分别考验模型在任务顺序分布不均和语言表述变化下的稳健性。结果显示,HIDRA 在无回放与有回放的基线方法面前均取得一致的优势,在 AUC 与前向迁移指标上均有提升,同时保持较低的遗忘率;在路由干扰较强、语言变化较大的条件下,性能增益更为显著。

从方法定位来看,HIDRA 的价值在于它并不依赖存储历史样本,却能在持续学习中维持专家路由的可靠性,这使其更贴近真实机器人部署的约束。该工作属于机器人学(cs.RO)与人工智能(cs.AI)交叉方向,预印本于 2026 年 10 月 26 日提交至 arXiv,编号为 arXiv:2610.36374v1,DOI 为 10.48550/arXiv.2610.36374。作者已公开代码,地址为 https://github.com/yfqi/HIDRA,便于社区复现与后续研究。需要说明的是,当前文本为作者预印本,最终版本以 NeurIPS 2026 会议论文集为准。

展开要点与分析

文章情报

工程师进阶

要点

  • HIDRA 采用层级双注意力机制,将指令级专家检索与上下文依赖的细化过程分离,从而减轻路由干扰。
  • 引入键级几何正则化,同时强化任务内对齐与任务间分离,以稳定表示漂移下的专家选择。
  • 在多个 LIBERO 基准套件上,HIDRA 在 AUC 和前向迁移上优于无回放与有回放基线,并保持较低遗忘。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。

HIDRA:用于无回放终身模仿学习的层级双路由注意力机制 | AI News Hub