跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

Rollback:在世界模型中回溯经验以改进策略

文章摘要

该论文提出 Rollback 框架,将动作条件世界模型从仅能前向预测的模拟器转变为能够回到过去决策点、分叉探索反事实未来的“反事实引擎”,并在三项真实机器人任务上比最强基线提升约 10.67% 至 11.85% 的成功率。

来源arXiv Robotics作者: Jiayi Luo, Yang Zhang, Liliang Chen, Nan Wang, Chen Gao, Boxiang Qiu, Zhuoxuan Li, Baorui Peng, Chuankang Li, Yuxiang Yan, Si Liu, Qingyun Sun, Shuicheng Yan, Maoqing Yao, Jianxin Li, Guanghui Ren
Rollback:在世界模型中回溯经验以改进策略
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

动作条件世界模型被视为替代昂贵真实交互、提升机器人策略的可扩展途径。不过,现有基于世界模型的方法大多只把世界模型当作物理环境的前向替代品,即从当前状态预测未来,却没有利用一个真实物理环境无法提供的能力:回到过去的某个决策点,重新选择动作并观察由此产生的反事实未来。由 Jiayi Luo 等 16 位作者提交的论文《Rollback: Experience Backtracking in World Models for Policy Improvement》正是围绕这一空白展开。

研究团队提出名为 Rollback 的策略改进范式,把世界模型从被动的模拟器改造成“反事实引擎”。其核心流程是:先回滚到关键决策点,再分叉出若干替代动作,然后对比这些动作导致的不同结果,从而判断究竟是哪一个决策带来了成功。这样,模型不必在整条轨迹上均匀消耗想象力,而是把计算集中在最影响结果的决策时刻。同时,反事实结果被蒸馏成动作级别的细粒度监督信号,整个过程不需要额外训练一个独立的价值模型。

为了让这一思路在真实机器人上落地,作者搭建了一套可扩展训练系统,将分布式世界模型搜索与异步真实机器人执行统一起来。系统形成自我强化的循环:真实世界经验不断修正世界模型,而更准确的世界模型又推动策略继续改进。作者把循环中世界模型一侧的能力称为“测试时物理校准”(test-time physics grounding)。与手工搭建的物理仿真器不同,世界模型本身充当训练环境,而它所训练的策略产生的真实状态转移会通过轻量级 LoRA 流程反过来校正世界模型的动力学。

实验选择三项具有挑战性的真实机器人任务:方块抽取、抛球和桌面冰壶。结果显示,Rollback 相对最强基线分别取得 10.67%、11.11% 和 11.85% 的绝对成功率提升,并且在整个训练过程中表现出更稳定的改进趋势。更值得注意的是,尽管系统仅从远低于人类水平的遥操作示范初始化,它在抛球和桌面冰壶两项任务上都在训练 8 小时内超过了人类玩家的平均成功率。

该论文于 2026 年 10 月 26 日提交至 arXiv,编号为 arXiv:2610.36068v1,归属机器人学(cs.RO)分类,同时涉及人工智能(cs.AI)与机器学习(cs.LG)。论文全文约 15MB,提供 PDF、实验性 HTML 和 TeX 源码等访问方式。作者强调,Rollback 的关键价值不只是把世界模型用作前向预测器,而是把它变成可以反复回到过去、检验不同选择后果的训练工具,从而在真实机器人策略学习中更高效地利用想象与真实经验的互补作用。

展开要点与分析

文章情报

研究者进阶

要点

  • Rollback 通过回溯到关键决策点并分叉不同动作,把想象力集中在最关键的决策上,无需单独学习价值模型。
  • 系统将分布式世界模型搜索与异步真实机器人执行结合,形成真实经验改进世界模型、更准确的世界模型再驱动策略提升的闭环。
  • 在方块抽取、抛球和桌面冰壶三项真实任务上,成功率绝对提升 10.67%、11.11% 和 11.85%。
  • 尽管从远低于人类水平的遥操作示范初始化,系统在抛球和桌面冰壶上训练 8 小时内即超过人类玩家平均水平。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。

Rollback:在世界模型中回溯经验以改进策略 | AI News Hub