灵巧操作研究长期面临一个瓶颈:大规模机器人演示数据收集成本高昂。针对这一难题,来自 arXiv 的论文《EgoEngine: From Egocentric Human Videos to High-Fidelity Dexterous Robot Demonstrations》提出了一种可扩展框架,试图把第一人称视角的人类操作视频转化为可用于机器人学习的训练数据。该论文由 Yangcen Liu 等九位作者完成,于 2026 年 6 月 10 日提交至 arXiv,归类为机器人学(cs.RO)。
研究团队指出,第一人称人类视频能够提供丰富多样、可扩展的操作行为素材,但若直接把这类视频用于机器人学习,必须跨越两道鸿沟。第一道是视觉差距:人类与机器人在外观、形态和观测方式上存在显著差异。第二道是动作差距:人类的自然运动并不能直接作为机器人可执行的指令。EgoEngine 的设计目标正是同时解决这两个问题。
具体而言,EgoEngine 以一段第一人称 RGB 视频作为输入,输出两类结果。其一是高保真机器人观测视频:系统用机器人替换视频中的人类,同时保留原有场景上下文与时间对齐关系,使生成内容在视觉上更接近机器人视角。其二是任务对齐且可执行的机器人动作轨迹:在可行性约束下,将人类动作转换为机器人能够实际执行的动作序列。
论文通过仿真实验和真实机器人实验验证了该框架的有效性。作者表示,EgoEngine 能够以可扩展的方式将人类视频转化为机器人数据,并且据其所知,这是首次在没有真实机器人演示的情况下,仅凭第一人称人类视频实现零样本视觉运动灵巧策略学习。这一结果若能得到进一步复现与推广,将有望显著降低灵巧操作策略训练对昂贵真机数据的依赖。
值得注意的是,该成果目前以预印本形式发布,仍处于同行评议之前的阶段,其泛化能力、在不同任务与硬件平台上的适用性仍有待社区进一步检验。论文项目主页为 https://egoengine.github.io,读者可前往获取更多演示与资料。