AI News HubLIVE
站内改写

操作化重构权限:自主智能体系统中的运行时构造、依赖解析与执行门控

本文提出一种运行时执行模型,在自主智能体系统中强制执行重构权限(RAM)条件:仅当能从当前状态构造出权限时,才允许执行动作。该模型扩展了传统“允许/拒绝”二元状态,引入“暂停”状态以处理因观测不完整或不确定而权限未定义的情况。具体执行协议包括动态依赖解析、权限重构和显式决策语义。此外,通过集成漂移检测(IML)与执行控制(ACP)的恢复循环,系统可暂停执行、获取缺失信息并重新尝试权限重构。实验证明该模型保证了安全性(无动作在无构造权限时执行)和有条件的活性(当权限定义变量可观测时恢复执行)。

文章情报

工程师中级

要点

  • 自主智能体系统失败不仅源于错误决策,还因执行了运行时权限已失效的决策。
  • 新模型引入第三状态“暂停”,应对权限因观测不确定性而无法定义的情况。
  • 恢复循环结合漂移检测与执行控制,在权限缺失时暂停执行、获取信息并重试。
  • 形式化证明该协议保证安全性与有条件的活性。

为什么重要

这条新闻值得关注,因为自主智能体系统失败不仅源于错误决策,还因执行了运行时权限已失效的决策。

技术影响

可能影响模型选型、推理成本、产品能力和评测基准。

自主智能体系统在执行任务时,不仅会因做出错误决策而失败,还可能因为执行了一个在运行时其权限已不再有效的决策而失败。先前的研究将“重构权限”(Reconstructive Authority, RAM)定义为有效执行的条件:仅当能够从当前系统状态中构造出权限时,才允许执行动作。然而,如何在实际运行的系统中强制执行这一条件,一直是一个开放问题。近日,一篇发表于arXiv的论文(编号:2605.23935)提出了一个运行时执行模型,旨在解决这一难题。

该模型的核心在于,在动作执行时评估权限,并将执行动作的条件限定为权限的可构造性。传统系统的执行状态空间通常只有“允许”和“拒绝”两种状态,而新模型引入了第三种状态——“暂停”。当系统观测不完整或存在不确定性,导致权限无法被明确界定时,系统会进入暂停状态,等待进一步信息。

论文定义了一个具体的执行协议,该协议包含动态依赖解析、权限重构以及显式的决策语义。动态依赖解析确保系统在执行前能正确识别并获取所有必要的权限依赖项。权限重构则是根据当前状态重新构建出授权依据。显式的决策语义则明确了在何种条件下系统应选择允许、拒绝或暂停。

进一步地,研究团队引入了一个“恢复循环”,将漂移检测(IML)与执行控制(ACP)相结合。当系统检测到环境或内部状态发生漂移,可能导致权限失效时,恢复循环会自动触发:系统暂停执行、主动获取缺失的信息,然后重新尝试权限重构。这个过程可以反复进行,直到权限变得可构造或最终失败。

论文通过形式化证明展示了该模型的安全性:没有任何动作会在没有可构造权限的情况下被执行。同时,模型还保证了有条件的活性:一旦那些定义权限的变量变得可观测,执行将恢复。这一工作将重构权限从一个理论概念落实为一种运行时强制机制,为在实际系统中应用RAM提供了所需的执行语义。

该论文属于“Agent治理系列”的第六篇(P6),相关先序工作已发布于arXiv(P0-P2),P3/4和P5同步提交。配套代码和数据可通过Zenodo获取。感兴趣的读者可在arXiv上查阅完整论文。