面向运行时Agentic AI系统治理的义务政策

随着大语言模型（LLM）驱动的自主AI智能体（Agentic AI）的兴起，企业面临着一系列新的安全、隐私和合规挑战。这些智能体能够调用工具、操作数据、安装软件，甚至跨组织边界与同伴智能体协调，因此仅靠身份验证和访问控制已不足以约束它们。企业需要一套完整的治理结构，明确智能体被允许和禁止的行为、在特定操作后必须履行的义务（如通知CISO）、在何种条件下可以豁免义务，以及当策略冲突时哪些规则优先。

当前的政策引擎，如XACML、Rego和Cedar，只处理了治理结构中的允许/禁止子集。它们缺乏义务生命周期管理、元策略冲突解决、针对特定情况的豁免（dispensations）以及对领域类层次（如医疗、网络安全、数据隐私）的本体推理能力。为了填补这一空白，研究人员提出了AgenticRei框架。AgenticRei基于Rei框架，使用OWL（Web本体语言）表达义务策略，并在LLM外部通过高性能逻辑引擎进行运行时评估。同一管道同时管理智能体的工具调用和智能体间的消息传递。

通过多个示例，论文展示了义务策略能够捕捉当前生产引擎无法表达的安全和隐私治理约束。例如，当智能体访问敏感数据后，必须记录审计日志；或者当检测到异常活动时，必须通知安全团队。这些义务还可以根据上下文被豁免，例如在紧急情况下。此外，AgenticRei能够自然与行业标准框架（如A2AS）集成，使其易于部署在现有系统中。

论文作者包括Anupam Joshi等人，将于2026年IEEE服务型代理研讨会（IEEE Symposium on Agentic Services）上发表。该研究为AI安全治理提供了新的理论基础和实用工具，尤其适用于需要细粒度策略控制的场景，如金融、医疗和关键基础设施。