跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

PROWL:基於優先遺憾驅動的世界模型學習優化

文章摘要

本文提出PROWL方法,通過KL約束的對抗課程訓練,主動發現並修正擴散世界模型在高風險、稀有交互中的預測錯誤。採用優先對抗軌跡緩衝區(PAT)持續聚焦未解決的失敗模式。在MineRL環境中的實驗表明,該方法優於被動數據訓練,並揭示了弱行為約束下的獎勵黑客行為。

來源arXiv Machine Learning作者: Ahmet H. G\"uzel, Jenny Seidenschwarz, Benjamin Graham, Jonathan Sadeghi, Jeffrey Hawke, Jack Parker-Holder, Ilija Bogunovic
PROWL:基於優先遺憾驅動的世界模型學習優化
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

現代動作條件視頻世界模型在短期視覺真實性上表現出色,但在罕見、交互關鍵的轉換中仍然不可靠——這些轉換恰恰主導了下游規劃和策略性能。由於被動演示數據系統地採樣不足這些高影響區域,提升魯棒性需要主動誘發模型失敗,而非依賴其自然發生。

本文提出PROWL(Prioritized Regret-Driven Optimization for World Model Learning),一種KL約束的對抗課程訓練框架。其核心思想是訓練一個策略,在保持接近行為分佈的同時,專門揭露擴散世界模型的高誤差軌跡。世界模型則持續在這些對抗發現的軌跡上進行微調,形成一個對抗訓練循環,將稀有失敗轉化為穩定的近分佈訓練信號,而不會漂移到分佈外利用。

為了在模型改進過程中持續對未解決的弱點施加壓力,研究人員設計了優先對抗軌跡緩衝區(Prioritized Adversarial Trajectory, PAT)。該緩衝區根據預測誤差、動作保真度和學習進度對軌跡重新排序,使訓練聚焦於未解決的失敗模式,而非重複處理已解決的問題。

在MineRL框架上的實驗表明,PROWL相比僅在被動數據上訓練的模型顯著提升了魯棒性,在弱行為約束下暴露出獎勵黑客行為,並證明有效的對抗世界模型訓練關鍵依賴於平衡探索性失敗發現與明確的行為正則化。這一結果提示,可擴展世界模型的改進不僅需要更大數據集,還需要選擇性地生成信息豐富的訓練數據。

展開要點與分析

文章情報

工程師進階

要點

  • 引入KL約束的對抗訓練循環,主動暴露世界模型的高錯誤軌跡
  • 提出優先對抗軌跡緩衝區(PAT),根據預測誤差、動作保真度和學習進度重新排序軌跡
  • 在MineRL框架中驗證,顯著提升模型對分佈外軌跡的魯棒性
  • 證明有效對抗訓練需要在探索失敗與行為正則化之間取得平衡

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。