本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

確率的デカップル方策勾配による効率的なオンポリシー視覚強化学習

記事の要約

本論文は、軌道ロールアウトのランダム摂動によって方策勾配を推定する軽量な視覚強化学習手法SDPGを提案する。単一のNVIDIA RTX 4080上で多様な視覚運動制御方策を数時間以内にエンドツーエンドで学習でき、視覚MuJoCoベンチマークにおいて学習時間、メモリ使用量、報酬のいずれでもベースラインを上回る。さらに、器用な操作や難易度の高い移動を含む現実的な視覚ロボティクスベンチマークを公開し、実機ハードウェア上でのsim-to-real転送も実証している。

ソースarXiv Robotics著者: Haoxiang You, Yilang Liu, Davis Zong, Qian Wang, Teeratham Vitchutripop, Qi Wang, Daniel Rakita, Ian Abraham
確率的デカップル方策勾配による効率的なオンポリシー視覚強化学習
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

視覚入力を用いた強化学習は、ロボティクス方策の実用化に向けた大きな障壁として学習コストの高さが挙げられる。従来の視覚RLでは勾配推定の分散を抑えるために、更新のたびに大量の環境を並列にレンダリングする必要があり、GPUメモリと計算時間が急激に膨らんでいた。arXivに投稿された新しい論文は、このオーバーヘッドを一般的な実験環境で扱える水準まで抑える手法、確率的デカップル方策勾配(stochastic decoupled policy gradient、SDPG)を提案している。

SDPGの中心的なアイデアは、大規模な並列環境サンプリングに代えて、軌道ロールアウトに対するランダム摂動から方策勾配を見積もる点にある。多数のバッチレンダリング環境を同時に保持する必要がなくなるため、必要な並列環境数は従来手法より数桁少なくなり、それに伴って計算とメモリの負荷も大幅に低下する。著者らはこれを軽量な手法と位置づけており、単一のNVIDIA RTX 4080上で、多様な視覚運動制御方策を数時間以内にエンドツーエンドで学習できるとしている。

評価では、視覚MuJoCoベンチマークを主要な実験基盤として用い、学習にかかる時間、メモリ使用量、そして最終的に得られる報酬という三つの観点からベースライン手法と比較している。論文の要旨によれば、SDPGはいずれの指標においてもベースラインを一貫して上回っており、効率化が方策性能の犠牲の上に成り立っていないことを示している。

アルゴリズムに加えて、著者らは現実的な視覚ロボティクスベンチマークも構築している。これは器用な操作と難易度の高い移動タスクを対象としたもので、実運用に近い評価環境を今後の研究に提供することが目的である。さらに、物理ハードウェア上でのsim-to-real転送実験の結果も報告されており、学習された方策が実機ロボットへ有効に転送できることを示している。

論文のメタデータによると、本稿は2026年5月26日に投稿され、第一著者はHaoxiang Youで、著者は全8名である。主題はロボティクス(cs.RO)に分類され、人工知能、コンピュータビジョンとパターン認識、機械学習、システムと制御といった分野にもまたがっている。全文、実験用HTML版、TeXソースはarXivのページから入手できる。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • SDPGは軌道ロールアウトのランダム摂動で方策勾配を推定し、バッチレンダリング環境数と計算・メモリのオーバーヘッドを桁違いに削減する
  • 視覚MuJoCoベンチマークで学習時間、メモリ使用量、報酬のすべてにおいてベースラインを一貫して上回る
  • 単一のNVIDIA RTX 4080 GPUで、多様な視覚運動制御方策を数時間以内にエンドツーエンドで学習可能
  • 器用な操作と難易度の高い移動を含む現実的な視覚ロボティクスベンチマークを公開し、実機でのsim-to-real転送の有効性も示す

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。

確率的デカップル方策勾配による効率的なオンポリシー視覚強化学習 | AI News Hub