模仿學習(IL)研究長期以來以任務成功作為衡量策略性能的主要指標,但這限制了其在安全至關重要的現場機器人中的應用。在許多情況下,如果安全性無法得到保證,機器人寧願不執行策略,即使這意味着表現不佳。儘管經典控制文獻中已經充分研究了安全與性能之間的權衡,但在IL研究中,策略安全卻是一個嚴重未被探索的領域。目前IL中缺乏普遍的安全定義,而且許多現有的安全工作理論難以擴展到基於IL的現場機器人。
本文深入探討了IL策略的安全性與性能問題。研究者提出了“執行保證”這一與策略無關的安全度量,它能夠保證視覺運動IL策略在狀態空間特定區域內,即使面臨微小的運行時變化,也能實現最大任務成功率。他們利用視角合成(view synthesis)的最新進展來識別狀態空間中的這類安全區域,並探索了集合不變性的基本結果——即Nagumo的次切向條件——來證明並實現從該區域內部的執行保證。
通過在仿真和真實環境中對Franka機器人進行實驗,研究者展示了所提出的安全分析如何使多種IL策略在保證安全的同時獲得最大任務成功率。具體來説,他們測試了不同的IL算法,並驗證了執行保證在多種條件下均有效。此外,他們還發現了一個有趣的副產物:恢復策略(recovery policy)可以幫助提高策略性能,從而緩解IL中的安全-性能權衡。這意味着機器人可以在保證安全的前提下,通過恢復策略重新調整行為,進而提升整體任務成功率。
這項研究為在安全關鍵環境中部署IL驅動的機器人提供了重要的理論基礎和實用工具。通過將形式化安全驗證與數據驅動的學習相結合,研究者開闢了將IL應用於現場機器人(如製造業、醫療和服務領域)的新路徑。未來的工作可以進一步擴展執行保證的概念,處理更復雜的環境和動態變化。總之,本文填補了IL安全性研究的空白,為AI在實際機器人中的安全部署提供了有力支持。