模仿學習(IL)研究長期以來以任務成功作為衡量策略效能的主要指標,但這限制了其在安全至關重要的現場機器人中的應用。在許多情況下,如果安全性無法得到保證,機器人寧願不執行策略,即使這意味著表現不佳。儘管經典控制文獻中已經充分研究了安全與效能之間的權衡,但在IL研究中,策略安全卻是一個嚴重未被探索的領域。目前IL中缺乏普遍的安全定義,而且許多現有的安全工作理論難以擴充套件到基於IL的現場機器人。
本文深入探討了IL策略的安全性與效能問題。研究者提出了“執行保證”這一與策略無關的安全度量,它能夠保證視覺運動IL策略在狀態空間特定區域內,即使面臨微小的執行時變化,也能實現最大任務成功率。他們利用視角合成(view synthesis)的最新進展來識別狀態空間中的這類安全區域,並探索了集合不變性的基本結果——即Nagumo的次切向條件——來證明並實現從該區域內部的執行保證。
透過在模擬和真實環境中對Franka機器人進行實驗,研究者展示了所提出的安全分析如何使多種IL策略在保證安全的同時獲得最大任務成功率。具體來說,他們測試了不同的IL演算法,並驗證了執行保證在多種條件下均有效。此外,他們還發現了一個有趣的副產物:恢復策略(recovery policy)可以幫助提高策略效能,從而緩解IL中的安全-效能權衡。這意味著機器人可以在保證安全的前提下,透過恢復策略重新調整行為,進而提升整體任務成功率。
這項研究為在安全關鍵環境中部署IL驅動的機器人提供了重要的理論基礎和實用工具。透過將形式化安全驗證與資料驅動的學習相結合,研究者開闢了將IL應用於現場機器人(如製造業、醫療和服務領域)的新路徑。未來的工作可以進一步擴充套件執行保證的概念,處理更復雜的環境和動態變化。總之,本文填補了IL安全性研究的空白,為AI在實際機器人中的安全部署提供了有力支援。