跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

基於折扣活性公式的機器人操作策略離線評估

文章摘要

本文提出一種基於活性Bellman運算元的離線策略評估框架,解決機器人操作中稀疏獎勵、非單調任務進展和有限軌跡截斷偏差問題。該框架將策略評估視為任務完成問題,得到保守的不動點值函式,對有限時間截斷具有魯棒性。在模擬操作任務(使用視覺-語言-動作模型和擴散策略)以及布料摺疊任務(使用人類演示)上的實驗表明,該方法更準確反映任務進展,顯著減少截斷偏差,優於TD(0)和蒙特卡洛策略評估等基線方法。

來源arXiv Robotics作者: Hao Wang, Joshua Bowden, Colton Crosby, Somil Bansal
基於折扣活性公式的機器人操作策略離線評估
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

在機器人操作策略的開發與部署中,策略評估是一項基礎但極具挑戰的任務。現代作業系統面臨三大難題:獎勵稀疏(僅當任務成功時獲得正獎勵)、任務進展非單調(因策略包含恢復行為,軌跡進度可能反覆),以及評估軌跡必然有限長。有限長度引入截斷偏差,破壞依賴貝爾曼方程或最優性原理的標準方法所基於的無限水平假設。

針對這一困境,來自研究團隊的最新論文提出了一種基於活性Bellman運算元的離線策略評估框架。該框架將策略評估重新解釋為“任務完成問題”,而非傳統累積獎勵最大化問題。具體地,它定義了一個活性折扣因子,使得值函式編碼任務是否完成以及完成進度,同時生成一個保守的固定點值函式。該函式對有限水平截斷具有魯棒性:即使在截斷點任務未完成,其估計也很少過度樂觀。研究者分析了運算元的理論特性,包括收縮保證,證明其能有效編碼任務進展並緩解截斷偏差。

實驗部分在三個場景中評估了方法。兩個模擬操作任務分別使用視覺-語言-動作(VLA)模型和擴散策略,第三個是布料摺疊任務,使用人類演示資料。結果表明,新方法相比經典的TD(0)和蒙特卡洛策略評估,能更準確地反映任務進度(例如,在任務早期截斷時,正確判斷任務未完成而非錯誤高估),並大幅降低截斷偏差。該論文已被機器人頂級會議RSS 2026接收。

展開要點與分析

文章情報

工程師進階

要點

  • 提出基於活性Bellman運算元的離線策略評估方法,緩解有限軌跡截斷偏差
  • 將策略評估建模為任務完成問題,得到魯棒的值函式
  • 在模擬和真實任務上驗證,優於傳統方法

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。