世界模型(World Models)作为学习环境结构和动态的内部模拟器,已成为实现通用人工智能(AGI)的核心范式。它们使智能体能够在学习到的表征中预测、规划和推理。尽管在强化学习、机器人、自动驾驶和视频生成等领域取得了快速进展,但该领域仍缺乏一个统一的框架来整合其多样的架构选择、训练方法、推理机制和应用场景。为了填补这一空白,这篇综述论文提出了一个多轴分类法,沿四个维度组织:(1)架构,涵盖表征格式、动态公式、输入模态、学习范式和下游应用;(2)方法家族,包括状态空间和循环方法、基于Transformer的模型、扩散生成器、物理信息网络以及语言增强多模态系统;(3)推理策略,覆盖基于想象的规划、潜在策略学习、反事实推理和不确定性下的规划;(4)应用领域,包括机器人、自动驾驶、视频预测、多模态智能体、强化学习、科学建模、医学影像、教育测量及商业金融。论文追溯了该领域从早期认知科学基础到里程碑系统(如PlaNet、Dreamer系列、MuZero、Sora、Cosmos和Genie)的发展历程,考察了这些维度如何相互作用,并重点指出了最近思维链推理与世界模型想象的融合趋势。此外,还对评估协议和基准进行了回顾,识别了诸如复合预测误差、仿真到现实迁移以及评估碎片化等持续存在的挑战。最后,论文概述了未来方向,包括统一的多模态世界模型、基础规模交互式模拟器以及在安全关键领域的可靠部署。为了进一步阐述,我们注意到世界模型的概念源于认知科学,旨在构建能够模拟环境动态的内部表征。随着深度学习的发展,PlaNet首次将循环状态空间模型引入基于图像的世界模型,Dreamer系列则在潜在空间中进行规划,MuZero通过无需环境模型的学习实现了突破性的强化学习性能。最近的Sora和Cosmos展示了在视频生成和大规模仿真中的潜力,而Genie则从互联网视频中学习生成交互环境。这些系统虽然各有侧重,但都基于类似的原理:学习一个紧凑的潜在表示,并利用该表示进行模拟和决策。然而,一个关键挑战是复合预测误差,即模型在长期预测中误差会逐步累积,导致规划失准。另外,仿真到现实迁移问题在机器人等领域尤为突出,因为仿真环境与现实世界之间存在差距。评估碎片化也是一个问题,现有基准往往针对特定场景,难以统一衡量模型能力。因此,该综述提出的分类法有助于整合这些分散的研究,为未来工作提供指导。
世界模型:架构、方法论、推理范式与应用综述
文章摘要
本文全面综述了世界模型的研究现状,提出了一个涵盖架构、方法、推理和应用的四维分类法,梳理了从PlaNet到Genie等里程碑系统,并讨论了预测误差、仿真到现实迁移等挑战及未来方向。
来源arXiv Machine Learning作者: Arif Hassan Zidan, Yi Pan, Hanqi Jiang, Ruiyu Yan, Wei Ruan, Zihao Wu, Lifeng Chen, Weihang You, Xinliang Li, Bowen Chen, Huawen Hu, Peilong Wang, Sizhuang Liu, Jing Zhang, Siyuan Li, Zhengliang Liu, Yu Bao, Lin Zhao, Lichao Sun, Dajiang Zhu, Xiang Li, Jinglei Lv, Quanzheng Li, Wei Liu, Tianming Liu, Wei Zhang
世界模型:架构、方法论、推理范式与应用综述