跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

机器人操作的动作-效果记忆预训练

文章摘要

研究者提出 AEM(Action-Effect Memory)预训练框架,通过交错视觉与动作特征并进行掩码建模,从视觉-动作历史中学习紧凑的时间表示。AEM 使用 Mamba 编码最终视觉 token 的输出作为历史单向量瓶颈,为扩散策略和流策略提供全局上下文。实验表明,该方法在仿真和真实环境的干净、杂乱及非马尔可夫任务中均优于基线,同时降低推理延迟与计算成本。

来源arXiv Robotics作者: Yijing Zhou, Qiwei Liang, Sitong Zhuang, Jiaxi Li, Xianpeng Wang, Boyang Cai, Yunyang Mo, Renjing Xu
机器人操作的动作-效果记忆预训练
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

在机器人操作领域,部分可观测性是一个长期存在的挑战:仅凭当前帧的视觉观察,机器人往往难以判断物体是否被遮挡、目标是否已经移动,或者此前动作产生了什么效果。传统机器人表示预训练方法大多聚焦于单帧视觉编码,虽然能够提取丰富的空间特征,却忽略了操作任务本身的时间维度。针对这一问题,研究人员提出了名为 AEM 的动作-效果记忆(Action-Effect Memory)预训练框架,试图让机器人从视觉-动作历史中学习紧凑的时间表示,从而为下游控制提供更可靠的历史上下文。

AEM 的核心思路是把操作过程建模为动作驱动的交互序列。与简单堆叠历史帧不同,该框架将视觉特征与动作特征交错排列,使模型能够在同一序列中同时看到“看到了什么”和“做了什么”。在此基础上,AEM 采用掩码建模策略,从残缺的历史输入中恢复缺失内容,迫使模型学习动作与视觉变化之间的因果联系,进而掌握动作条件下的状态演化规律。这种预训练方式直接面向操作任务的时间本质,而不是停留在静态图像理解层面。

在架构设计上,AEM 使用 Mamba 对交错序列进行编码,并取最终视觉 token 的编码输出作为紧凑的历史表示。该表示是一个单向量瓶颈,既浓缩了此前的视觉-动作历史,又作为解码和下游控制的全局上下文。研究者强调,这一设计在保留时间信息的同时避免了过长的上下文窗口,从而维持了推理效率。对于需要实时响应的机器人系统而言,这种效率优势尤为重要。

为了验证方法的通用性,研究团队将 AEM 与两种主流的策略学习框架结合:扩散策略(Diffusion Policy)和流策略(Flow Policy)。在仿真环境和真实世界设置中,AEM 均展现出稳定的性能提升。实验覆盖了干净场景、杂乱且随机的场景,以及具有非马尔可夫性质的任

务——在这类任务中,当前观察不足以决定最优动作,必须依赖历史信息。与基线方法相比,AEM 在这些场景下都取得了更好的操作表现。

消融研究进一步揭示了历史感知预训练的价值。结果表明,AEM 的历史感知预训练优于单帧预训练,也优于直接堆叠历史帧的做法。与此同时,AEM 在提升性能的同时降低了推理延迟和计算成本,说明紧凑的时间瓶颈并没有以牺牲效率为代价。该论文提交于 2026 年 6 月 10 日,作者包括 Yijing Zhou 等八人,属于机器人学(cs.RO)方向的预印本工作。

展开要点与分析

文章情报

工程师进阶

要点

  • AEM 以视觉-动作历史为输入,学习动作条件下的状态演化表示,突破单帧视觉编码的局限。
  • 该框架把操作建模为动作驱动的交互过程,交错视觉与动作特征,并对不完整历史做掩码恢复。
  • 最终视觉 token 的 Mamba 编码输出形成紧凑的历史单向量瓶颈,兼顾全局上下文与推理效率。
  • 在仿真和真实场景中,AEM 搭配扩散策略与流策略均持续提升性能,并减少推理延迟和计算开销。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。