SPARK人形機器人安全過濾器的對抗性壓力測試

人形機器人因其高維度的身體結構、眾多的碰撞約束以及需要在人和障礙物附近操作，使得安全部署成為一項嚴峻挑戰。安全過濾器透過修改可能違反碰撞避免約束的名義控制動作來提供安全保障。然而，僅僅依靠標準基準測試分數並不能充分揭示這些過濾器在更復雜環境中的表現。本研究透過復現和壓力測試，系統評估了SPARK人形機器人安全過濾器的魯棒性。研究團隊在MuJoCo模擬環境中復現了SPARK基準案例G1SportMode_D1_WG_SO_v1，並在受控隨機種子條件下評估了六種安全過濾器方法：RSSA、RSSS、SSA、CBF、PFM和SMA。此外，他們還構建了一個後處理管道，將原始的SPARK日誌轉換為三個關鍵指標：目標跟蹤精度、最小距離和碰撞步數。實驗結果表明，不同方法在目標跟蹤和碰撞減少之間存在權衡：某些方法能夠更緊密地跟蹤目標，而另一些則在減少碰撞步數方面更為有效。進一步的壓力測試顯示，當障礙物密集、距離估計存在噪聲或障礙物資訊延遲時，安全行為會發生顯著變化。例如，在障礙物擁擠的場景中，某些過濾器傾向於過度保守，導致目標跟蹤效能下降；而另一些則可能因過於激進而增加碰撞風險。噪聲距離估計模擬了感測器不精確的情況，這導致過濾器的決策波動，影響整體安全性。延遲的障礙物資訊則測試了系統在通訊延遲下的魯棒性。這些發現強調，人形機器人自主性的評估應超越名義效能，採用能夠暴露部署前失效模式的指標。研究建議，在將機器人系統投入實際應用之前，必須使用更具挑戰性的場景和可靠性指標進行測試，例如對抗性壓力測試。這些測試能夠揭示在標準基準測試中無法觀察到的脆弱性，從而指導安全過濾器的改進和部署策略。