跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

面向智能体AI系统运行时治理的道义政策

文章摘要

该论文提出 AgenticRei,一种基于 Rei 框架、用 OWL 表达并由 LLM 之外的高性能逻辑引擎在运行时评估的道义政策方案,以补齐当前策略引擎无法处理的义务、豁免、冲突消解与本体推理等企业治理需求。

来源arXiv AI作者: Anupam Joshi, Tim Finin, Karuna Pande Joshi, Lalana Kagal
面向智能体AI系统运行时治理的道义政策
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

由大型语言模型(LLM)驱动的自主智能体系统,正在带来一类全新的安全、隐私与合规挑战。当一个智能体能够调用工具、操纵数据、安装软件,并跨越组织边界与同伴智能体协作时,它所需要的约束就不仅仅是身份认证和访问控制,而是完整的 enterprise governance(企业治理)结构。这种治理需要明确规定智能体被允许做什么、被禁止做什么,在采取某些行动之后有义务做什么(例如通知首席信息安全官 CISO),在什么条件下可以豁免某项长期义务,以及当多条策略发生冲突时哪一条规则优先。

论文指出,这一治理问题已经超出了现有策略引擎的能力范围。XACML、Rego 和 Cedar 等系统只处理了治理结构中的允许/禁止这一子集。它们并不提供义务生命周期管理、元策略冲突消解、在特定情形下豁免义务的 dispensation(豁免)机制,也不支持对医疗、网络安全或数据隐私等应用中常见的领域类层次结构进行本体论推理。正是这些缺口,使得现有生产级引擎难以表达真实企业环境中所需的完整治理约束。

为填补这一空白,作者提出了 AgenticRei 系统。它实现了若干关键治理需求,包括义务(obligations)、豁免(dispensations)、策略冲突消解(policy conflict resolutions)以及对策略的推理,同时还保留了基础的允许/禁止约束。该系统采用建立在 Rei 框架之上的道义(deontic)策略语言,以 OWL(Web Ontology Language)进行表达,并在运行时由部署在 LLM 之外的高性能逻辑引擎进行求值。这一设计意味着策略判定不依赖模型本身的推理能力,而是交由独立、可验证的逻辑组件完成。

值得注意的是,同一条处理管线既治理智能体发起的工具调用,也治理智能体之间的消息传递。作者通过示例表明,道义策略能够捕捉围绕安全与隐私的治理约束,而这些约束大多无法在现有生产引擎中表达。此外,该方法能够与 A2AS 等行业标准框架自然组合。

该论文由 Anupam Joshi 等四位作者完成,共 10 页、含 1 幅图,计划发表于 2026 年 IEEE 服务智能体研讨会(IEEE Symposium on Agentic Services),该研讨会隶属于 IEEE 网络服务会议。论文于 2026 年 6 月 17 日提交至 arXiv,编号为 arXiv:2606.19464,主题涵盖人工智能(cs.AI)与多智能体系统(cs.MA)。

展开要点与分析

文章情报

工程师进阶

要点

  • 现有 XACML、Rego、Cedar 只覆盖许可/禁止,缺少义务生命周期与元政策冲突消解
  • AgenticRei 以 OWL 表达道义政策,由 LLM 之外的逻辑引擎在运行时执行
  • 同一管线同时治理智能体的工具调用和智能体间消息
  • 方案可与 A2AS 等行业标准框架自然组合

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。