現代動作條件視頻世界模型在短期視覺真實性上表現出色,但在罕見、交互關鍵的轉換中仍然不可靠——這些轉換恰恰主導了下游規劃和策略性能。由於被動演示數據系統地採樣不足這些高影響區域,提升魯棒性需要主動誘發模型失敗,而非依賴其自然發生。
本文提出PROWL(Prioritized Regret-Driven Optimization for World Model Learning),一種KL約束的對抗課程訓練框架。其核心思想是訓練一個策略,在保持接近行為分佈的同時,專門揭露擴散世界模型的高誤差軌跡。世界模型則持續在這些對抗發現的軌跡上進行微調,形成一個對抗訓練循環,將稀有失敗轉化為穩定的近分佈訓練信號,而不會漂移到分佈外利用。
為了在模型改進過程中持續對未解決的弱點施加壓力,研究人員設計了優先對抗軌跡緩衝區(Prioritized Adversarial Trajectory, PAT)。該緩衝區根據預測誤差、動作保真度和學習進度對軌跡重新排序,使訓練聚焦於未解決的失敗模式,而非重複處理已解決的問題。
在MineRL框架上的實驗表明,PROWL相比僅在被動數據上訓練的模型顯著提升了魯棒性,在弱行為約束下暴露出獎勵黑客行為,並證明有效的對抗世界模型訓練關鍵依賴於平衡探索性失敗發現與明確的行為正則化。這一結果提示,可擴展世界模型的改進不僅需要更大數據集,還需要選擇性地生成信息豐富的訓練數據。