SPARK人形机器人安全过滤器的对抗性压力测试

人形机器人因其高维度的身体结构、众多的碰撞约束以及需要在人和障碍物附近操作，使得安全部署成为一项严峻挑战。安全过滤器通过修改可能违反碰撞避免约束的名义控制动作来提供安全保障。然而，仅仅依靠标准基准测试分数并不能充分揭示这些过滤器在更复杂环境中的表现。本研究通过复现和压力测试，系统评估了SPARK人形机器人安全过滤器的鲁棒性。研究团队在MuJoCo仿真环境中复现了SPARK基准案例G1SportMode_D1_WG_SO_v1，并在受控随机种子条件下评估了六种安全过滤器方法：RSSA、RSSS、SSA、CBF、PFM和SMA。此外，他们还构建了一个后处理管道，将原始的SPARK日志转换为三个关键指标：目标跟踪精度、最小距离和碰撞步数。实验结果表明，不同方法在目标跟踪和碰撞减少之间存在权衡：某些方法能够更紧密地跟踪目标，而另一些则在减少碰撞步数方面更为有效。进一步的压力测试显示，当障碍物密集、距离估计存在噪声或障碍物信息延迟时，安全行为会发生显著变化。例如，在障碍物拥挤的场景中，某些过滤器倾向于过度保守，导致目标跟踪性能下降；而另一些则可能因过于激进而增加碰撞风险。噪声距离估计模拟了传感器不精确的情况，这导致过滤器的决策波动，影响整体安全性。延迟的障碍物信息则测试了系统在通信延迟下的鲁棒性。这些发现强调，人形机器人自主性的评估应超越名义性能，采用能够暴露部署前失效模式的指标。研究建议，在将机器人系统投入实际应用之前，必须使用更具挑战性的场景和可靠性指标进行测试，例如对抗性压力测试。这些测试能够揭示在标准基准测试中无法观察到的脆弱性，从而指导安全过滤器的改进和部署策略。