走向可信的具身智能：系统框架与分级可信度
本文提出了一个系统框架，将可信具身智能定义为在环境和系统变化下可靠执行任务并将风险控制在可接受范围内的持续能力，即“持续安全成功”。该框架包括四个相互依赖的层：模型层、系统层、证据层和部署层。此外，还提出了一个非规范的可信度层级，用于评估部署声明的强度，为安全部署、比较评估、研究优先级和未来标准化提供基础。
来源arXiv Robotics作者: Xinyu Yang, Tianxing Chen, Honghao Su, Minxuan Wang, Chenze Yu, Zhangzheng Tu, Yue Chen, Yuxiao Huo, Lingfeng Zhang, Yan Huang, Yan Qin, Shaolong Zhu, Qiwei Liang, Hekun Tian, Shujia Liu, Guangyu Chen, Junhao Gong, Zixuan Li, Wenwei Lin, Zijian Lin, Wenxuan Zhu, Eric J Chen, Yue Yuan, Qize Yu, Jiaqi Liang, Haowen Yan, Hengfei Zhao, Weijie Wan, Zikun Xiao, Junyuan Tang, Baijun Chen, Kai-Chong Lei, Kaixuan Wang, Kailun Su, Zanxin Chen, Yao Mu, Renjing Xu, Chuqiao Lyu, Qi Xiong, Ping Luo, Wenbo Ding
具身智能系统融合了学习感知、决策、实时计算、控制和物理交互，其故障可能导致直接的身体或操作伤害，因此仅靠任务完成无法建立信任。一项新研究提出了一套系统框架，将可信具身智能定义为在环境和系统变化下可靠执行任务并将风险控制在可接受范围内的持续能力，即“持续安全成功”。该框架由四个相互依赖的层组成：模型层、系统层、证据层和部署层。
模型层负责生成具有校准不确定性和明确安全偏好的任务胜任动作提议；系统层通过集成传感、计算、控制、硬件安全、故障隔离和回退机制可靠地执行授权动作；证据层通过评估、验证、确认、可追溯性和结构化保证论据来支持有限声明；部署层通过运行时监控、权限管理、干预、事件响应和受控更新来维持声明的有效性。由于假设和故障在这些层之间传播，单靠模型能力、孤立的安全措施或基准性能无法建立端到端的可信度。
基于具身AI、机器人学、控制理论、可靠计算、分布式系统和自动驾驶等领域的研究，作者进一步提出了一个非规范的可信度层级。该层级根据任务能力、安全性、系统保证、运营治理和支持证据来评估有限部署声明的强度，为有限部署、比较评估、研究优先级和未来标准化提供了依据。该框架的意义在于提供了一种结构化的方法来处理具身智能系统的复杂性，并推动建立统一的信任评估标准。