近年来,世界模型在强化学习和机器人领域取得了显著进展,但传统的世界模型通常依赖于明确的动作标签,这在许多实际场景中难以获得。为了突破这一限制,来自多所机构的研究人员提出了CLAW(Continuous Latent Action World Models),一种全新的自监督框架,能够直接从无动作视频中学习连续潜在动作表示和世界模型。该工作由Tewodros Ayalew等8位作者共同完成,相关论文已提交至arXiv(编号:2606.04130),并包含了8页正文和15页补充材料。
CLAW的核心创新在于其完全端到端的自监督学习方式。它利用对抗性潜在正则化技术,结合扩散模型进行视频生成,从而在不依赖任何动作标签或注释的情况下,捕捉结构化和语义上有意义的动作表示。具体而言,CLAW同时训练潜在动作模型和世界模型:潜在动作模型从视频中推断出隐式的动作序列,而世界模型则学习这些动作如何导致环境状态的变化。通过这种联合训练,CLAW能够仅凭视觉观测推断出引起环境转换的动作。这种对抗性正则化机制确保了潜在动作空间具有连续性和语义丰富性,而扩散视频生成则使模型能够精确预测未来的视觉帧。
在应用层面,CLAW展示了强大的能力。在模仿学习中,研究人员从原始视频中提取潜在动作,并用于行为克隆,使机器人能够通过观察人类演示学习任务。例如,机器人可以观看人类操作物体的视频,然后自主复现类似的动作序列。在目标导向规划中,CLAW生成一系列潜在动作,并将它们映射为可执行动作,从而引导智能体达成指定目标。这种方法完全基于视觉输入,无需任何动作标签或预先定义的技能库。
实验覆盖了多个任务和机器人形态,包括控制、操作和导航等。在控制任务中,CLAW成功应用于倒立摆和四足机器人运动;在操作任务中,它实现了机械臂的抓取和放置;在导航任务中,智能体能够根据视觉观察规划路径。结果表明,CLAW不仅产生了语义丰富的潜在动作表示,还支持有效的动作迁移,即在一个任务中学到的潜在动作表示可以很好地适应另一个相关任务。在规划和模仿学习上的性能均优于现有的对比方法,包括基于VAE的基线方法和有监督的动作表示学习方法。
CLAW的提出为机器人在无标签环境中学习提供了新的思路。未来,该框架有望扩展至更复杂的交互任务,如多步骤操作和人机协作。同时,该工作也展示了自监督学习在机器人领域的巨大潜力,为减少对昂贵人工标注的依赖迈出了重要一步。相关代码和模型预计将公开发布,以促进进一步的研究和应用。