动作条件世界模型被视为替代昂贵真实交互、提升机器人策略的可扩展途径。不过,现有基于世界模型的方法大多只把世界模型当作物理环境的前向替代品,即从当前状态预测未来,却没有利用一个真实物理环境无法提供的能力:回到过去的某个决策点,重新选择动作并观察由此产生的反事实未来。由 Jiayi Luo 等 16 位作者提交的论文《Rollback: Experience Backtracking in World Models for Policy Improvement》正是围绕这一空白展开。
研究团队提出名为 Rollback 的策略改进范式,把世界模型从被动的模拟器改造成“反事实引擎”。其核心流程是:先回滚到关键决策点,再分叉出若干替代动作,然后对比这些动作导致的不同结果,从而判断究竟是哪一个决策带来了成功。这样,模型不必在整条轨迹上均匀消耗想象力,而是把计算集中在最影响结果的决策时刻。同时,反事实结果被蒸馏成动作级别的细粒度监督信号,整个过程不需要额外训练一个独立的价值模型。
为了让这一思路在真实机器人上落地,作者搭建了一套可扩展训练系统,将分布式世界模型搜索与异步真实机器人执行统一起来。系统形成自我强化的循环:真实世界经验不断修正世界模型,而更准确的世界模型又推动策略继续改进。作者把循环中世界模型一侧的能力称为“测试时物理校准”(test-time physics grounding)。与手工搭建的物理仿真器不同,世界模型本身充当训练环境,而它所训练的策略产生的真实状态转移会通过轻量级 LoRA 流程反过来校正世界模型的动力学。
实验选择三项具有挑战性的真实机器人任务:方块抽取、抛球和桌面冰壶。结果显示,Rollback 相对最强基线分别取得 10.67%、11.11% 和 11.85% 的绝对成功率提升,并且在整个训练过程中表现出更稳定的改进趋势。更值得注意的是,尽管系统仅从远低于人类水平的遥操作示范初始化,它在抛球和桌面冰壶两项任务上都在训练 8 小时内超过了人类玩家的平均成功率。
该论文于 2026 年 10 月 26 日提交至 arXiv,编号为 arXiv:2610.36068v1,归属机器人学(cs.RO)分类,同时涉及人工智能(cs.AI)与机器学习(cs.LG)。论文全文约 15MB,提供 PDF、实验性 HTML 和 TeX 源码等访问方式。作者强调,Rollback 的关键价值不只是把世界模型用作前向预测器,而是把它变成可以反复回到过去、检验不同选择后果的训练工具,从而在真实机器人策略学习中更高效地利用想象与真实经验的互补作用。