可验证的自主基础设施：面向主权AI系统的证明派生授权

自主AI代理的兴起正在颠覆传统的授权范式。现代云和企业系统普遍采用基于身份的授权模型——只要调用者持有有效凭证，就假定其操作是安全的。然而，自主AI代理能够生成语法上有效但在语义上不安全的操作，这使得静态权限成为重大的运营风险，尤其是在主权AI系统中，自主代理可能与云基础设施、受监管数据、金融工作流以及国家级数字服务进行交互。

为了应对这一挑战，研究人员提出了一种名为“分布式信任框架”（Distributed Trust Framework, DTF）的验证框架，用于治理突变系统。DTF通过结构化、可验证的工件来推导执行权限，从根本上改变了授权的基础。该框架引入了四个关键组件：正当性证明（Justification Proof），用于编码操作的可接受性依据；共识模型，支持独立评估；临时执行身份（Execution Identity），由已批准的证明派生而来；以及仅追加证据链（Evidence Chain），用于保存授权生命周期。在这些组件的作用下，DTF实施了一个紧凑的授权不变性：没有证明对象，不得执行高风险操作；没有达成共识，不得派生权限；没有证据关联，不得进行有效突变。

论文进一步将DTF实例化在基于OpenKedge的治理突变基板上，并展示了其如何映射到云原生环境。通过将授权从静态身份转向证明派生的权限，DTF为主权AI部署中代理执行的可治理性、可审计性和边界性提供了基础设施基础。该研究由Jun He等人完成，论文发表在arXiv上，共19页，包含2张图和4张表，主题涵盖人工智能（cs.AI）和机器学习（cs.LG）。

DTF的设计特别关注了主权AI场景下的信任边界问题。在传统系统中，授权决策通常基于调用者的身份，但自主代理的行为具有不可预测性，使得身份不再可靠。DTF通过引入共识机制和证据链，使得每一次授权决策都可验证、可追溯。例如，当代理提出意图时，基础设施首先收集上下文信息和策略，然后通过共识模型评估该意图是否合理，只有经过多个独立验证者确认后，才会生成临时的执行身份。这种机制确保了即使代理被攻破，也无法在无授权的情况下执行危险操作。

此外，DTF的仅追加证据链为事后审计提供了完整记录。所有授权生命周期中的事件都被不可篡改地保存，这满足了监管合规的要求。在金融工作流或国家数字服务中，这种可审计性至关重要。研究者还展示了DTF在Kubernetes等云原生环境中的映射方案，表明其具有实际部署的可行性。总之，DTF为构建可信的自主AI基础设施提供了一种创新的思路，有望成为未来主权AI系统的关键组件。