跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

Rollback:在世界模型中回溯經驗以改進策略

文章摘要

該論文提出 Rollback 框架,將動作條件世界模型從僅能前向預測的模擬器轉變為能夠回到過去決策點、分叉探索反事實未來的“反事實引擎”,並在三項真實機器人任務上比最強基線提升約 10.67% 至 11.85% 的成功率。

來源arXiv Robotics作者: Jiayi Luo, Yang Zhang, Liliang Chen, Nan Wang, Chen Gao, Boxiang Qiu, Zhuoxuan Li, Baorui Peng, Chuankang Li, Yuxiang Yan, Si Liu, Qingyun Sun, Shuicheng Yan, Maoqing Yao, Jianxin Li, Guanghui Ren
Rollback:在世界模型中回溯經驗以改進策略
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

動作條件世界模型被視為替代昂貴真實互動、提升機器人策略的可擴充套件途徑。不過,現有基於世界模型的方法大多隻把世界模型當作物理環境的前向替代品,即從當前狀態預測未來,卻沒有利用一個真實物理環境無法提供的能力:回到過去的某個決策點,重新選擇動作並觀察由此產生的反事實未來。由 Jiayi Luo 等 16 位作者提交的論文《Rollback: Experience Backtracking in World Models for Policy Improvement》正是圍繞這一空白展開。

研究團隊提出名為 Rollback 的策略改進正規化,把世界模型從被動的模擬器改造成“反事實引擎”。其核心流程是:先回滾到關鍵決策點,再分叉出若干替代動作,然後對比這些動作導致的不同結果,從而判斷究竟是哪一個決策帶來了成功。這樣,模型不必在整條軌跡上均勻消耗想象力,而是把計算集中在最影響結果的決策時刻。同時,反事實結果被蒸餾成動作級別的細粒度監督訊號,整個過程不需要額外訓練一個獨立的價值模型。

為了讓這一思路在真實機器人上落地,作者搭建了一套可擴充套件訓練系統,將分散式世界模型搜尋與非同步真實機器人執行統一起來。系統形成自我強化的迴圈:真實世界經驗不斷修正世界模型,而更準確的世界模型又推動策略繼續改進。作者把迴圈中世界模型一側的能力稱為“測試時物理校準”(test-time physics grounding)。與手工搭建的物理模擬器不同,世界模型本身充當訓練環境,而它所訓練的策略產生的真實狀態轉移會透過輕量級 LoRA 流程反過來校正世界模型的動力學。

實驗選擇三項具有挑戰性的真實機器人任務:方塊抽取、拋球和桌面冰壺。結果顯示,Rollback 相對最強基線分別取得 10.67%、11.11% 和 11.85% 的絕對成功率提升,並且在整個訓練過程中表現出更穩定的改進趨勢。更值得注意的是,儘管系統僅從遠低於人類水平的遙操作示範初始化,它在拋球和桌面冰壺兩項任務上都在訓練 8 小時內超過了人類玩家的平均成功率。

該論文於 2026 年 10 月 26 日提交至 arXiv,編號為 arXiv:2610.36068v1,歸屬機器人學(cs.RO)分類,同時涉及人工智慧(cs.AI)與機器學習(cs.LG)。論文全文約 15MB,提供 PDF、實驗性 HTML 和 TeX 原始碼等訪問方式。作者強調,Rollback 的關鍵價值不只是把世界模型用作前向預測器,而是把它變成可以反覆回到過去、檢驗不同選擇後果的訓練工具,從而在真實機器人策略學習中更高效地利用想象與真實經驗的互補作用。

展開要點與分析

文章情報

研究者進階

要點

  • Rollback 透過回溯到關鍵決策點並分叉不同動作,把想象力集中在最關鍵的決策上,無需單獨學習價值模型。
  • 系統將分散式世界模型搜尋與非同步真實機器人執行結合,形成真實經驗改進世界模型、更準確的世界模型再驅動策略提升的閉環。
  • 在方塊抽取、拋球和桌面冰壺三項真實任務上,成功率絕對提升 10.67%、11.11% 和 11.85%。
  • 儘管從遠低於人類水平的遙操作示範初始化,系統在拋球和桌面冰壺上訓練 8 小時內即超過人類玩家平均水平。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。