本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

ELA:動画デモンストレーションからのエンドツーエンド潜在アクションポリシー学習

記事の要約

本論文は、潜在アクションモデル、潜在アクションポリシー、アクションデコーダをエンドツーエンドで共同訓練するフレームワーク ELA を提案する。これにより、ロボットポリシーは豊富なアクションラベルなしの動画デモンストレーションを活用でき、必要なアクション付きロボットデモは少数で済む。シミュレーションおよび実世界の操作タスクで、ELA は従来の潜在アクション手法のベースラインを一貫して上回り、約400万パラメータの軽量アクションデコーダを通じて既存の模倣学習手法とシームレスに統合できる。

ソースarXiv Robotics著者: Cheng-Chun Hsu, Peter Stone
ELA:動画デモンストレーションからのエンドツーエンド潜在アクションポリシー学習
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

ロボットの模倣学習は、アクションラベル付きデータの不足という問題に長く悩まされてきた。ポリシーを訓練するには、観測とアクションが対になったロボットのデモンストレーションが大量に必要となるが、その収集には人的コストも時間的コストもかかる。一方で、動画のようなアクションラベルのないデモンストレーションは豊富に存在し、ロボット操作や人間の日常行動の記録など、さまざまな場面で容易に入手できる。こうした動画から制御に使える動作知識を引き出すことが、現在のロボット学習における重要な課題の一つとなっている。

近年登場した潜在アクション手法は、観測の遷移からアクションに関連する表現を学習しようとする。連続するフレーム間の変化を手がかりに、その間にどのような動作が起きたかを暗黙的に推論し、明示的なアクションラベルなしで潜在アクションの表現を得る仕組みである。しかし論文は、こうした手法に共通する重大な欠点を指摘する。すなわち、潜在アクションが下流の制御目的に合わせて最適化されていないため、得られた潜在表現はポリシーネットワークにとってモデル化しにくく、連続的なロボットアクションへ正確にデコードすることも難しい。その結果、実際の制御タスクでの性能が制限されてしまう。

この問題に対して著者らが提案するのが、動画デモンストレーションから学習するエンドツーエンドのフレームワーク ELA(End-to-End Latent Action Policy Learning)である。ELA の中心的な考え方は、潜在アクションを二つの目的に同時に役立てることにある。一つはポリシー学習に適した抽象的なアクション空間を提供すること、もう一つは実際の連続ロボットアクションへ安定して復元できるようにすることである。これを実現するため、ELA は潜在アクションモデル、潜在アクションポリシー、アクションデコーダを同一のパイプライン内で共同訓練し、三者が互いに適合するように最適化する。従来のように段階ごとに独立して訓練するのではなく、全体をまとめて学習させる点が特徴である。

この共同最適化には明確な利点がある。ポリシーは大量の動画データを主要な学習源として利用でき、アクションラベル付きのロボットデモは、潜在アクションと実際の制御指令の対応関係を確立するために少数だけ用意すればよい。これにより、高コストなアクション注釈への依存を大幅に減らせる。論文ではシミュレーション環境と実世界の操作タスクの両方で評価を行い、ELA が従来の潜在アクションのベースライン手法を一貫して上回ることを示している。

性能面に加えて、ELA の重要な特徴は統合のしやすさである。著者らは約400万パラメータの軽量なアクションデコーダを採用しており、これにより既存の模倣学習手法とシームレスに組み合わせることができる。しかも、ポリシーのアーキテクチャや訓練目的を一切変更する必要がない。つまり研究者は、既存システムを大きく作り替えることなく、ELA を拡張モジュールとして導入できる。論文は arXiv:2611.05571 として公開され、分野はロボティクス(cs.RO)、著者は Cheng-Chun Hsu と Peter Stone、投稿日は2026年11月3日である。プロジェクトページでは追加の補足資料も公開されている。

要点と分析を開く

記事インテリジェンス

研究者上級

要点

  • ELA は潜在アクションモデル、潜在アクションポリシー、アクションデコーダを共同訓練し、潜在アクションをポリシー学習と連続アクションのデコードの両方に最適化する。
  • 豊富なアクションラベルなしの動画デモを活用しつつ、アクション付きロボットデモの必要量を大幅に削減できる。
  • シミュレーションと実世界の操作タスクの実験で、ELA は従来の潜在アクションベースラインを一貫して上回る。
  • 約400万パラメータの軽量アクションデコーダにより、ポリシーアーキテクチャや訓練目的を変更せずに既存の模倣学習手法へ統合できる。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。