本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

世界行動モデルのための未来動画表現の自己蒸留

記事の要約

本論文は FRED を提案する。これは自己蒸留と時間的文脈を用いて世界行動モデル(WAM)を訓練し、単一のデノイズステップでノイズからより高品質な未来動画表現を生成する枠組みである。実世界の操作タスクで既存 WAM を一貫して上回り、長期的タスクやゼロショットのドメイン外タスクで大きな改善を示すとともに、人間動画からロボットへのスキル転移の成功率を 19.4% から 50.0% に向上させた。

ソースarXiv Robotics著者: Huiwon Jang, Suhyeok Jang, Hyeonmo Kang, Seungku Kim, Jinwoo Shin, Sihyun Yu
世界行動モデルのための未来動画表現の自己蒸留
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

arXiv は 2026 年 10 月 21 日(水)18:33:13 UTC に、論文「Self-Distilling Future Video Representations for World Action Models」を受理した。識別子は arXiv:2610.30320v1、主分野はロボティクス(cs.RO)、交叉分野はコンピュータビジョンとパターン認識(cs.CV)である。著者は Huiwon Jang を筆頭に全 6 名で、投稿者は Suhyeok Jang。本文は 27 ページでプロジェクトページへのリンクが付されており、原稿サイズは 2,967 KB、DOI は https://doi.org/10.48550/arXiv.2610.30320 で DataCite により発行される(登録手続き中)。全文は PDF、実験的な HTML 版、TeX ソースの形で閲覧できる。

研究の背景として、本論文は World Action Models(WAMs)が汎用的なロボット方策を学習する有望なアプローチとして台頭してきたと述べる。その要点は、事前学習済みの動画拡散モデルが持つ豊富な時空間事前分布を活用することにある。近年の WAM の系統では推論効率を高めるため、動画生成に必要な反復的なデノイジングを避け、単一ステップのデノイジングから抽出した中間的な未来動画表現に別個の行動デコーダを条件付ける方式を採る。この設計では、行動予測が未来表現の品質に直接依存するため、単一ステップで得られる表現の精度がパイプライン全体のボトルネックとなる。

これに対し著者らは FRED(Future REpresentation learning via self-Distillation with temporal context、時間的文脈を用いた自己蒸留による未来表現学習)と呼ぶフレームワークを提案する。FRED は、単一ステップのデノイジングにおいてノイズからより高品質な未来動画表現を回復できるよう WAM を訓練することを目的とする。具体的には自己蒸留を用い、正解となる未来の観測から抽出した表現をターゲットとして、ノイズからその未来表現を予測することを学習させる。さらに動画モデルを過去の観測に条件付けることで、未来表現をより良く予測するための時間的文脈を与える。

実験では、多様な実世界のマニピュレーション場面において FRED が競合する WAM を一貫して上回ったと報告されている。特にゼロショットの環境汎化設定の下で、長期的タスクと分布外タスクにおいて大きな改善を示す。さらに人からロボットへのスキル転移も大幅に向上し、ロボットの訓練データに存在せず人間の動画でのみ実演されたタスクにおいて、FRED は 50.0% のタスク成功率を達成したのに対し、最良の競合 WAM は 19.4% であった。この対比は、自己蒸留によって単一ステップの未来表現の品質を高めることが、未見タスクへの汎化と人間のデモンストレーションからの学習を実質的に改善し得ることを示す。なお、これらの数値は著者らによる自己申告であり、独立した再現や査読による検証は今後の課題である。本稿は v1 のプレプリントであり、以降の版で内容が改訂される可能性がある。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • FRED は自己蒸留により、真の未来観測から抽出した表現を目標としてノイズから未来表現を予測する。
  • 過去の観測を条件に加えることで時間的文脈を与え、未来表現の予測精度を高める。
  • 多様な実世界操作シナリオで競合 WAM を上回り、長期的タスクとゼロショットのドメイン外タスクで特に大きな改善を示す。
  • ロボット訓練データに存在せず人間動画のみで示されたタスクで 50.0% の成功率を達成し、最良の比較手法は 19.4% だった。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。