接触の多い環境において、ヒューマノイドロボットにはロバストかつ精密な全身コントローラが求められる。深層強化学習(RL)はロバストな安定性を達成するが、その振る舞いは訓練目的とコマンドインターフェースに強く結合しており、再学習なしに新たなフィードバック目的を追加することは困難である。この課題に対し、Yunsoo Seoらは、事前学習済みRLポリシーの上にアドオンのフィードバックコントローラとして機能する、RL誘導全身モデル予測パス積分(MPPI)フレームワークを提案した。
本手法の核心は、RLポリシーを最終コントローラとしてではなく、サンプリングの事前分布として利用する点にある。具体的には、RLポリシーがMPPIのロールアウトを動的に実行可能な行動へとバイアスをかける。タスク目的はモジュール式のMPPIコスト項を通じて指定され、MPPIはオンラインでRL事前分布を継続的に補正することで、ポリシーを再学習することなくこれらの目的を満たす。この設計により、RLポリシーのロバスト性を維持しつつ、新たなフィードバック目的を柔軟に追加できる。
MuJoCoシミュレーション環境で、29自由度のUnitree G1ヒューマノイドを用いた検証が行われた。結果として、システムは平均280Hzの安定した高頻度制御を実現した。同一のコマンドインターフェースの下で、純粋なRLベースラインと比較してタスクレベルの精度が向上している。この向上は主に二つの要因による:直進歩行時の系統的ドリフトの補正と、コスト項を通じて課された追加の全身参照信号の追従である。
本研究は、RLのロバスト性とMPPIの精密性を組み合わせることで、安定性を犠牲にせずにより柔軟なタスク目標のカスタマイズを実現する、ヒューマノイド制御の新たなアプローチを提示している。今後の課題として、実機への展開やより複雑なタスクシナリオへの適応が考えられる。