可變形微纖維形狀控制的閉環模擬到現實強化學習
研究人員提出了一種閉環模擬到現實強化學習方法,用於控制微纖維在表面上的形狀。該方法在簡化的無摩擦模擬器中訓練策略,並在實際部署中利用即時視覺反饋校正未建模的表面相互作用。使用絲質微纖維進行測試,在24種不同初始配置下實現了平均270微米的形狀誤差,並在多種纖維直徑和長度下保持亞毫米精度,無需重新訓練或調整。
在微觀尺度下,自主接觸式微操縱面臨巨大挑戰,因為表面和介面相互作用難以精確建模,限制了傳統基於模型的控制和模擬到現實(sim-to-real)學習方法的有效性。針對這一問題,研究人員提出了一種新穎的閉環sim-to-real強化學習方法,用於控制微纖維在表面上的形狀。其核心思想是在一個簡化的無摩擦模擬器中訓練幾何形狀調節策略,並在實際部署過程中利用即時視覺反饋,逐步糾正因未建模表面相互作用而產生的偏差。該強化學習策略完全在模擬環境中訓練,無需重新訓練或領域適應,即可直接轉移到以40赫茲執行的物理雙夾持器微操縱系統上。
為了驗證方法的有效性,研究人員以絲質微纖維為測試物件,在24種不同的初始配置下進行了實驗。結果表明,該策略達到了平均每點形狀誤差270微米(標準差80微米)的出色效能。進一步,為了評估策略的泛化能力,他們測試了九種不同的纖維樣本,覆蓋了三種纖維直徑(50、80和120微米)和三種操作長度(10毫米、15毫米和20毫米)的所有組合。令人印象深刻的是,相同的策略在所有情況下均實現了亞毫米級的最終形狀誤差,無需任何重新訓練或引數調整。
這些實驗結果表明,在簡化模擬器中學習的策略,只要模擬到現實差異中任務相關的影響在閉環反饋迴路中保持可觀察和可校正,就能在現實世界中實現可重複的微纖維形狀調節。這項研究為自主接觸式微操縱領域提供了新的思路,有望推動微組裝、微操作機器人等技術的發展。該工作由Alessandro Amici等四位作者完成,論文以預印本形式釋出於arXiv,編號2605.21688。