AgenticFocus是一种创新的混合现实合成流程,旨在解决从人类第一人称视频中学习人形机器人策略时的关键挑战。传统的基于视频的机器人学习管道通常受限于手部与物体之间的遮挡、过于简化的运动模型或需要专门的捕捉硬件。该论文由Iaroslav Kolomiets等八位作者共同撰写,提出了一种新方法,利用普通的第一人称视角视频,通过恢复被遮挡的物体几何形状、重建完整的手部运动,并通过相机相对对齐和分层合成将其重新定位到人形机器人身上,从而生成机器人可训练的演示数据集。
该流程的核心在于其混合现实合成能力。首先,对原始视频中的场景进行三维重建,特别是对于手部遮挡的物体,通过算法推断其完整几何形状。然后,重建精确的全手运动,包括手指的细微动作。最后,通过相机相对对齐技术,将人类的手部运动映射到人形机器人模型的手部,确保动作的一致性。分层合成则保证了视觉观察与机器人动作之间的同步。这一方法无需任何专门捕捉硬件,仅依靠普通的第一人称视频即可生成高质量的演示数据。
实验结果表明,AgenticFocus在轨迹误差和手腕运动平滑度方面显著优于跨形态基线方法。具体而言,其SPARC分数达到-5.18,而对比方法的分数分别为-5.56和-6.05,表明生成的演示具有更高的精确性和自然性。这一进步对于发展能从人类演示中学习的灵巧机器人至关重要,因为它消除了对昂贵专业设备的需求,并扩大了可用训练数据的来源。该研究于2026年7月9日提交至arXiv,收录于机器人学(cs.RO)类别,编号为2607.08857。
AgenticFocus的提出不仅推动了人形机器人学习领域的发展,也为将日常人类活动视频转化为机器人训练数据提供了可行的技术路径。随着进一步优化,该方法有望在家庭服务、工业操作等场景中发挥重要作用。