動作條件世界模型被視為替代昂貴真實互動、提升機器人策略的可擴充套件途徑。不過,現有基於世界模型的方法大多隻把世界模型當作物理環境的前向替代品,即從當前狀態預測未來,卻沒有利用一個真實物理環境無法提供的能力:回到過去的某個決策點,重新選擇動作並觀察由此產生的反事實未來。由 Jiayi Luo 等 16 位作者提交的論文《Rollback: Experience Backtracking in World Models for Policy Improvement》正是圍繞這一空白展開。
研究團隊提出名為 Rollback 的策略改進正規化,把世界模型從被動的模擬器改造成“反事實引擎”。其核心流程是:先回滾到關鍵決策點,再分叉出若干替代動作,然後對比這些動作導致的不同結果,從而判斷究竟是哪一個決策帶來了成功。這樣,模型不必在整條軌跡上均勻消耗想象力,而是把計算集中在最影響結果的決策時刻。同時,反事實結果被蒸餾成動作級別的細粒度監督訊號,整個過程不需要額外訓練一個獨立的價值模型。
為了讓這一思路在真實機器人上落地,作者搭建了一套可擴充套件訓練系統,將分散式世界模型搜尋與非同步真實機器人執行統一起來。系統形成自我強化的迴圈:真實世界經驗不斷修正世界模型,而更準確的世界模型又推動策略繼續改進。作者把迴圈中世界模型一側的能力稱為“測試時物理校準”(test-time physics grounding)。與手工搭建的物理模擬器不同,世界模型本身充當訓練環境,而它所訓練的策略產生的真實狀態轉移會透過輕量級 LoRA 流程反過來校正世界模型的動力學。
實驗選擇三項具有挑戰性的真實機器人任務:方塊抽取、拋球和桌面冰壺。結果顯示,Rollback 相對最強基線分別取得 10.67%、11.11% 和 11.85% 的絕對成功率提升,並且在整個訓練過程中表現出更穩定的改進趨勢。更值得注意的是,儘管系統僅從遠低於人類水平的遙操作示範初始化,它在拋球和桌面冰壺兩項任務上都在訓練 8 小時內超過了人類玩家的平均成功率。
該論文於 2026 年 10 月 26 日提交至 arXiv,編號為 arXiv:2610.36068v1,歸屬機器人學(cs.RO)分類,同時涉及人工智慧(cs.AI)與機器學習(cs.LG)。論文全文約 15MB,提供 PDF、實驗性 HTML 和 TeX 原始碼等訪問方式。作者強調,Rollback 的關鍵價值不只是把世界模型用作前向預測器,而是把它變成可以反覆回到過去、檢驗不同選擇後果的訓練工具,從而在真實機器人策略學習中更高效地利用想象與真實經驗的互補作用。