AgenticFocus是一種創新的混合現實合成流程,旨在解決從人類第一人稱視頻中學習人形機器人策略時的關鍵挑戰。傳統的基於視頻的機器人學習管道通常受限於手部與物體之間的遮擋、過於簡化的運動模型或需要專門的捕捉硬件。該論文由Iaroslav Kolomiets等八位作者共同撰寫,提出了一種新方法,利用普通的第一人稱視角視頻,通過恢復被遮擋的物體幾何形狀、重建完整的手部運動,並通過相機相對對齊和分層合成將其重新定位到人形機器人身上,從而生成機器人可訓練的演示數據集。
該流程的核心在於其混合現實合成能力。首先,對原始視頻中的場景進行三維重建,特別是對於手部遮擋的物體,通過算法推斷其完整幾何形狀。然後,重建精確的全手運動,包括手指的細微動作。最後,通過相機相對對齊技術,將人類的手部運動映射到人形機器人模型的手部,確保動作的一致性。分層合成則保證了視覺觀察與機器人動作之間的同步。這一方法無需任何專門捕捉硬件,僅依靠普通的第一人稱視頻即可生成高質量的演示數據。
實驗結果表明,AgenticFocus在軌跡誤差和手腕運動平滑度方面顯著優於跨形態基線方法。具體而言,其SPARC分數達到-5.18,而對比方法的分數分別為-5.56和-6.05,表明生成的演示具有更高的精確性和自然性。這一進步對於發展能從人類演示中學習的靈巧機器人至關重要,因為它消除了對昂貴專業設備的需求,並擴大了可用訓練數據的來源。該研究於2026年7月9日提交至arXiv,收錄於機器人學(cs.RO)類別,編號為2607.08857。
AgenticFocus的提出不僅推動了人形機器人學習領域的發展,也為將日常人類活動視頻轉化為機器人訓練數據提供了可行的技術路徑。隨着進一步優化,該方法有望在家庭服務、工業操作等場景中發揮重要作用。