可变形微纤维形状控制的闭环模拟到现实强化学习
研究人员提出了一种闭环模拟到现实强化学习方法,用于控制微纤维在表面上的形状。该方法在简化的无摩擦模拟器中训练策略,并在实际部署中利用实时视觉反馈校正未建模的表面相互作用。使用丝质微纤维进行测试,在24种不同初始配置下实现了平均270微米的形状误差,并在多种纤维直径和长度下保持亚毫米精度,无需重新训练或调整。
在微观尺度下,自主接触式微操纵面临巨大挑战,因为表面和界面相互作用难以精确建模,限制了传统基于模型的控制和模拟到现实(sim-to-real)学习方法的有效性。针对这一问题,研究人员提出了一种新颖的闭环sim-to-real强化学习方法,用于控制微纤维在表面上的形状。其核心思想是在一个简化的无摩擦模拟器中训练几何形状调节策略,并在实际部署过程中利用实时视觉反馈,逐步纠正因未建模表面相互作用而产生的偏差。该强化学习策略完全在模拟环境中训练,无需重新训练或领域适应,即可直接转移到以40赫兹运行的物理双夹持器微操纵系统上。
为了验证方法的有效性,研究人员以丝质微纤维为测试对象,在24种不同的初始配置下进行了实验。结果表明,该策略达到了平均每点形状误差270微米(标准差80微米)的出色性能。进一步,为了评估策略的泛化能力,他们测试了九种不同的纤维样本,覆盖了三种纤维直径(50、80和120微米)和三种操作长度(10毫米、15毫米和20毫米)的所有组合。令人印象深刻的是,相同的策略在所有情况下均实现了亚毫米级的最终形状误差,无需任何重新训练或参数调整。
这些实验结果表明,在简化模拟器中学习的策略,只要模拟到现实差异中任务相关的影响在闭环反馈回路中保持可观察和可校正,就能在现实世界中实现可重复的微纤维形状调节。这项研究为自主接触式微操纵领域提供了新的思路,有望推动微组装、微操作机器人等技术的发展。该工作由Alessandro Amici等四位作者完成,论文以预印本形式发布于arXiv,编号2605.21688。