移動操控機器人需要生成全身動作塊,這些動作塊必須同時滿足目標到達、避障、基座運動學約束、機械臂關節限位以及軌跡平滑性等多重要求。流模型作為一種生成式策略,能夠從專家演示中學習多模態且時間一致的運動先驗,但僅靠模仿學習無法超越演示數據的分佈,導致策略質量受限。為此,由Shuhang Wang等人提出的RLMM-Flow框架,將專家流策略預訓練與潛在空間強化學習後訓練相結合,旨在突破這一限制。
該框架首先通過流模型學習一個多模態的全身運動先驗,該先驗捕捉了專家演示中的多樣化運動模式。預訓練完成後,流策略被凍結,而一個潛在引導網絡負責將初始噪聲向量引導至產生高價值動作塊的區域。為了穩定高維潛在空間的優化過程,研究者先預熱一個動作空間評判器(critic),然後聯合訓練潛在評判器和潛在演員(actor),並引入了從粗到細的潛在引導機制:從水平共享的潛在表示逐步擴展到全維殘差表示。這種漸進式擴展使得控制更加精細,同時避免了高維優化中的不穩定問題,這是該工作的關鍵創新之一。
在多個移動操控運動規劃基準上的實驗結果表明,RLMM-Flow在任務成功率、避障能力和軌跡質量方面均顯著優於純模仿學習的流策略以及現有的強化學習後訓練基線。例如,在需要精確躲避動態障礙物的任務中,RLMM-Flow的成功率提升了約20%,同時生成的軌跡更加平滑,符合運動學約束。更重要的是,該方法保留了流模型快速推理的優勢,使得實時應用成為可能。該論文於2026年7月29日提交至arXiv,作為首個將流模型與潛在空間強化學習相結合用於移動操控的工作,為機器人領域提供了一種高效且可擴展的解決方案,有望推動機器人在家庭、倉儲等複雜環境中的自主操作能力。