跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

RLMM-Flow:一種基於流模型的移動操控框架與潛在空間強化學習

文章摘要

RLMM-Flow提出了一種結合專家流策略預訓練與潛在空間強化學習後訓練的移動操控框架。該框架首先從專家演示中學習多模態全身運動先驗,然後凍結預訓練流策略,透過潛在引導網路將初始噪聲導向高價值動作塊。實驗表明,該方法在任務成功率、避障和軌跡質量上顯著優於純模仿學習流策略。

來源arXiv Robotics作者: Shuhang Wang, Ziming Li, Hui Cheng
RLMM-Flow:一種基於流模型的移動操控框架與潛在空間強化學習
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

移動操控機器人需要生成全身動作塊,這些動作塊必須同時滿足目標到達、避障、基座運動學約束、機械臂關節限位以及軌跡平滑性等多重要求。流模型作為一種生成式策略,能夠從專家演示中學習多模態且時間一致的運動先驗,但僅靠模仿學習無法超越演示資料的分佈,導致策略質量受限。為此,由Shuhang Wang等人提出的RLMM-Flow框架,將專家流策略預訓練與潛在空間強化學習後訓練相結合,旨在突破這一限制。

該框架首先透過流模型學習一個多模態的全身運動先驗,該先驗捕捉了專家演示中的多樣化運動模式。預訓練完成後,流策略被凍結,而一個潛在引導網路負責將初始噪聲向量引導至產生高價值動作塊的區域。為了穩定高維潛在空間的最佳化過程,研究者先預熱一個動作空間評判器(critic),然後聯合訓練潛在評判器和潛在演員(actor),並引入了從粗到細的潛在引導機制:從水平共享的潛在表示逐步擴充套件到全維殘差表示。這種漸進式擴充套件使得控制更加精細,同時避免了高維最佳化中的不穩定問題,這是該工作的關鍵創新之一。

在多個移動操控運動規劃基準上的實驗結果表明,RLMM-Flow在任務成功率、避障能力和軌跡質量方面均顯著優於純模仿學習的流策略以及現有的強化學習後訓練基線。例如,在需要精確躲避動態障礙物的任務中,RLMM-Flow的成功率提升了約20%,同時生成的軌跡更加平滑,符合運動學約束。更重要的是,該方法保留了流模型快速推理的優勢,使得即時應用成為可能。該論文於2026年7月29日提交至arXiv,作為首個將流模型與潛在空間強化學習相結合用於移動操控的工作,為機器人領域提供了一種高效且可擴充套件的解決方案,有望推動機器人在家庭、倉儲等複雜環境中的自主操作能力。

展開要點與分析

文章情報

工程師進階

要點

  • 首次將流模型與潛在空間強化學習結合用於移動操控
  • 提出粗到細的潛在引導策略,從共享潛在表示逐步擴充套件到全維殘差表示
  • 在移動操控運動規劃基準上取得顯著改進

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。