在具身智能领域,视觉-语言-动作(VLA)模型的大规模预训练已成为推动可泛化机器人控制进步的核心驱动力。然而,当前主流方法严重依赖于大量机器人演示数据,这些数据的采集成本高昂且与特定机器人平台紧密耦合,极大地限制了模型向新环境和新任务的泛化能力。与此形成鲜明对比的是,人类视频数据在互联网上浩如烟海,涵盖了日常操作、工具使用、物体操控等各类交互场景,蕴含着丰富的语义和物理信息。然而,人类与机器人在身体形态上的差异(例如手部自由度、传感器配置、运动学约束)以及视频中普遍缺乏精确的任务对齐标注,使得直接将这些数据用于训练VLA模型面临严峻挑战。
为系统解决上述问题,Zhiyuan Feng等15位研究者联合撰写了一篇综述论文,已被IJCAI 2026 Survey Track接收。该综述首次从统一视角梳理了将人类视频转化为VLA模型有效知识的系统方法。根据从视频中提取动作相关信息的方式,现有工作被划分为四大类:(i) 潜在动作表示(Latent Action Representations)——通过编码视频帧间的像素或特征变化来表征连续动作,常见方法包括学习隐空间中的动作嵌入、利用视频帧差或光流等;(ii) 预测世界模型(Predictive World Models)——通过学习环境动力学,预测未来帧序列,从而隐含地反映动作的影响,这类方法常基于视频预测或逆动态模型;(iii) 显式2D监督(Explicit 2D Supervision)——直接从图像平面提取高层线索,如关键点轨迹、运动向量、接触区域等,作为监督信号;(iv) 显式3D重建(Explicit 3D Reconstruction)——通过重建场景的三维几何或人体运动,将动作映射到三维空间,再投影到机器人执行空间。这种分类不仅揭示了不同方法的技术路径,也为后续研究提供了清晰的坐标参考。
除了技术分类,该综述还深入剖析了该领域面临的三大开放性挑战。第一,视频结构化:如何将非结构化的、长度不一的互联网视频自动分割并组织成适合模型训练的结构化片段,同时确保动作的语义完整性和时间连续性。第二,跨实体动作接地:由于人类与机器人在运动学、动力学和感知能力上存在根本差异,从视频中提取的动作监督信号必须有效映射到机器人坐标系中,同时还需要处理不同视角带来的空间歧义。第三,评价协议设计:现有基准大多在受限环境中评测,无法准确反映模型在真实部署场景中的表现,需要开发更贴近实际、能衡量泛化能力和迁移效率的新型评估体系。
该综述还提供了一个经过精心整理的论文和资源列表,并开源了相关代码和链接,方便研究者快速入门和追踪前沿进展。总体而言,本综述为利用海量人类视频数据训练通用机器人模型提供了坚实的理论框架和实用指南,有望大幅降低对昂贵机器人演示数据的依赖,加速具身智能的落地应用。