跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

DREAMSTEER:潛在世界模型可在部署期間引導VLA策略,無需任何微調

文章摘要

DREAMSTEER是一種無需微調即可在部署時引導預訓練視覺-語言-動作(VLA)策略的框架。它利用潛在世界模型和價值模型,通過採樣候選動作塊、想象其結果並排序,顯著提升了任務成功率和指令遵循準確率。

來源arXiv Robotics作者: Hanchen Cui, Sergio Arnaud, Arjun Majumdar, Daniel Dugas, Elie Aljalbout, Karthik Desingh, Krishna Murthy Jatavallabhula, Franziska Meier
DREAMSTEER:潛在世界模型可在部署期間引導VLA策略,無需任何微調
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

預訓練的視覺-語言-動作(VLA)策略在零樣本泛化方面表現出色,但部署時的分佈偏移常常導致其魯棒性下降和指令遵循不一致。此前的工作通常通過在分佈內數據上進行微調來解決這一問題,但這需要假設已在目標環境中收集了任務演示。然而,在許多實際場景中,收集此類演示成本高昂且不切實際。

針對這一挑戰,來自多所機構的研究人員提出了DREAMSTEER框架,該框架無需任何微調或參數修改,即可在部署時引導預訓練的VLA策略。其核心思想是引入一個潛在世界模型和一個價值模型來共同指導策略的決策過程。具體而言,DREAMSTEER首先從VLA策略和預定義的原始動作中採樣多個候選動作塊,然後利用動作條件潛在世界模型來想象執行這些動作後的未來狀態和結果,最後通過一個語言條件價值模型對這些想象軌跡進行評估和排序,從而選擇最優的動作序列。

實驗部分,研究團隊在四個涉及未見物體的真實世界操作基準測試中評估了DREAMSTEER的性能。結果顯示,與基礎VLA策略相比,DREAMSTEER將任務成功率從23.75%大幅提升至66.25%,同時指令遵循準確率也從38.75%提高到56.25%。這些結果充分證明了DREAMSTEER在無需微調的情況下顯著增強VLA策略部署魯棒性的能力。

值得注意的是,DREAMSTEER的潛在世界模型和價值模型均在離線數據集上預先訓練完成,因此在部署時無需任何額外的數據收集或模型更新。這一特性使得DREAMSTEER成為一種低成本、高效益的解決方案,有望廣泛應用於機器人操控、人機交互等需要精準指令遵循的領域。

展開要點與分析

文章情報

工程師進階

要點

  • DREAMSTEER無需微調或修改參數即可在部署時引導VLA策略。
  • 使用動作條件潛在世界模型想象候選動作的結果,並通過語言條件價值模型排序。
  • 在四個真實操作基準測試中,任務成功率從23.75%提升至66.25%,指令遵循準確率從38.75%提升至56.25%。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。