視覚入力を用いた強化学習は、ロボティクス方策の実用化に向けた大きな障壁として学習コストの高さが挙げられる。従来の視覚RLでは勾配推定の分散を抑えるために、更新のたびに大量の環境を並列にレンダリングする必要があり、GPUメモリと計算時間が急激に膨らんでいた。arXivに投稿された新しい論文は、このオーバーヘッドを一般的な実験環境で扱える水準まで抑える手法、確率的デカップル方策勾配(stochastic decoupled policy gradient、SDPG)を提案している。
SDPGの中心的なアイデアは、大規模な並列環境サンプリングに代えて、軌道ロールアウトに対するランダム摂動から方策勾配を見積もる点にある。多数のバッチレンダリング環境を同時に保持する必要がなくなるため、必要な並列環境数は従来手法より数桁少なくなり、それに伴って計算とメモリの負荷も大幅に低下する。著者らはこれを軽量な手法と位置づけており、単一のNVIDIA RTX 4080上で、多様な視覚運動制御方策を数時間以内にエンドツーエンドで学習できるとしている。
評価では、視覚MuJoCoベンチマークを主要な実験基盤として用い、学習にかかる時間、メモリ使用量、そして最終的に得られる報酬という三つの観点からベースライン手法と比較している。論文の要旨によれば、SDPGはいずれの指標においてもベースラインを一貫して上回っており、効率化が方策性能の犠牲の上に成り立っていないことを示している。
アルゴリズムに加えて、著者らは現実的な視覚ロボティクスベンチマークも構築している。これは器用な操作と難易度の高い移動タスクを対象としたもので、実運用に近い評価環境を今後の研究に提供することが目的である。さらに、物理ハードウェア上でのsim-to-real転送実験の結果も報告されており、学習された方策が実機ロボットへ有効に転送できることを示している。
論文のメタデータによると、本稿は2026年5月26日に投稿され、第一著者はHaoxiang Youで、著者は全8名である。主題はロボティクス(cs.RO)に分類され、人工知能、コンピュータビジョンとパターン認識、機械学習、システムと制御といった分野にもまたがっている。全文、実験用HTML版、TeXソースはarXivのページから入手できる。