从智能体故障路径到量化残余风险：韧性代理AI的组合框架

arXiv 上的一篇新论文《从智能体故障路径到量化残余风险：韧性代理AI的组合框架》提出了一个名为 CPSAINT 的七层完整性分解框架，该框架覆盖物理状态、传感器、数据、计算、执行器、环境与时间七个层面。与 FRIESA-K 残余风险函数配对，该函数将每条故障路径映射到一个量化风险实例。研究团队通过受控吸收马尔可夫模型来推导抵抗力项 K，从而使控制有效性来源于状态动力学，而非主观评分。

该框架的核心创新在于将故障机制描述与风险量化耦合在一起。传统方法要么只能描述故障机制，却无法生成可转移的残余风险估计；要么提供风险估计但将内部故障路径当作黑箱处理。CPSAINT 和 FRIESA-K 的结合填补了这一空白，形成了一条从故障机制到风险量级的简洁管线。

研究人员还通过独立加性惩罚项实现治理可观测性，而不是将治理作为新变量插入阻力函数中。他们形式化了结构组合性，将有效的故障路径与定义明确的风险实例联系起来。此外，该框架形式化了结构组合性，确保不同故障路径可以组合成复合风险场景，同时保持数学上的严谨性。

该框架在两个对比鲜明的场景中得到了验证：一个是硬实时仓库机器人，另一个是配备治理机制的金融代理。在这两种情况下，相同的层语法、变量语义和动态阻力构造保持不变。因此，该研究获得了一个支持跨领域推理、明确假设和定量基础形式化可组合信任的紧凑内核。

这项工作由 Hassan Karim 等人完成，于 2026 年 4 月 28 日提交至 arXiv，论文编号为 2607.18243。它代表了在构建安全可靠的自主 AI 系统，特别是代理型 AI 和具身 AI 方面的重要进步。通过将故障路径分析与量化风险度量相结合，该框架为开发者提供了一种在部署前评估和减轻风险的实际工具。未来，研究人员计划将此框架扩展到更多应用领域，并进一步优化其计算效率。