ワールドモデル(World Models)は、環境の構造とダイナミクスを学習する内部シミュレータであり、人工汎用知能(AGI)の追求における中心的パラダイムとして浮上しています。これにより、エージェントは学習された表現内で予測、計画、推論を行うことが可能になります。強化学習、ロボティクス、自動運転、ビデオ生成などの分野で急速な進歩が見られる一方で、多様なアーキテクチャの選択肢、訓練方法、推論メカニズム、応用設定を統合する統一的なフレームワークが不足していました。このギャップを埋めるために、本サーベイ論文は4つの次元に沿った多軸分類法を提案しています:(i)アーキテクチャ(表現形式、動的定式化、入力モダリティ、学習パラダイム、下流アプリケーションを含む)、(ii)方法論ファミリー(状態空間およびリカレントアプローチ、トランスフォーマーベースモデル、拡散ベース生成器、物理情報ネットワーク、言語拡張マルチモーダルシステムを含む)、(iii)推論戦略(想像ベースの計画、潜在ポリシー学習、反事実推論、不確実性下での計画をカバー)、(iv)応用ドメイン(ロボティクス、自動運転、ビデオ予測、マルチモーダルエージェント、強化学習、科学モデリング、医用画像、教育測定、ビジネス・金融にわたる)。本論文では、初期の認知科学の基礎からPlaNet、Dreamerファミリー、MuZero、Sora、Cosmos、Genieなどのマイルストーンシステムに至るまでの分野の進化を追跡し、これらの次元がどのように相互作用するかを検証し、思考連鎖推論とワールドモデル想像の最近の統合を強調しています。さらに、評価プロトコルとベンチマークをレビューし、複合的な予測誤差、シミュレーションから実世界への転送、断片的な評価などの持続的な課題を特定し、統一的なマルチモーダルワールドモデル、基盤規模のインタラクティブシミュレータ、安全性が重要な領域での安全な展開に向けた将来の方向性を概説しています。特に、PlaNetは画像ベースの環境に対してリカレント状態空間モデルを導入し、Dreamerは潜在空間での計画を可能にし、MuZeroは環境モデルなしで学習する革新的な手法を提供しました。最近のSoraやCosmosはビデオ生成と大規模シミュレーションでの可能性を示し、Genieはインターネットビデオからインタラクティブな環境を生成します。しかし、複合予測誤差、シミュレーションと現実のギャップ、評価の断片化などの課題が残っています。本分類法はこれらの研究を統合するための枠組みを提供し、今後の発展を促進します。
ワールドモデル:アーキテクチャ、方法論、推論パラダイム、および応用に関する包括的サーベイ
記事の要約
本サーベイは、ワールドモデルに関する統一的な分類法を提示し、アーキテクチャ、方法論、推論、応用の4次元にわたって整理する。PlaNetからGenieに至るマイルストーンを追跡し、思考連鎖推論とワールドモデルの統合について議論し、主要な課題と今後の方向性を明らかにする。
ソースarXiv Machine Learning著者: Arif Hassan Zidan, Yi Pan, Hanqi Jiang, Ruiyu Yan, Wei Ruan, Zihao Wu, Lifeng Chen, Weihang You, Xinliang Li, Bowen Chen, Huawen Hu, Peilong Wang, Sizhuang Liu, Jing Zhang, Siyuan Li, Zhengliang Liu, Yu Bao, Lin Zhao, Lichao Sun, Dajiang Zhu, Xiang Li, Jinglei Lv, Quanzheng Li, Wei Liu, Tianming Liu, Wei Zhang
ワールドモデル:アーキテクチャ、方法論、推論パラダイム、および応用に関する包括的サーベイ