AI News HubLIVE
站内改写1 分钟阅读

Cage-lite:为AI代理行动提供行动前保障

CAGE-lite是一个开源参考实现,用于在AI代理行动产生业务影响之前对其进行授权验证和决策记录。

来源Hacker News AI作者: roopamsure10

CAGE-lite 是一个开源的参考实现,旨在为人工智能代理的行动提供“预绑定保障”(Prebind Assurance)。该工具基于CAGE(Control, Assurance, and Governance Evaluation)框架,专注于在代理行动转化为实际业务后果之前,验证该行动是否得到授权并拥有充分的证据支持。CAGE-lite 的核心功能是在行动执行前增加一道保障步骤。当AI代理提出一个行动(如支付款项、授予访问权限、批准交易或泄露受保护信息)时,组织需要在行动成为具有约束力的业务结果之前,确认其合规性。CAGE-lite 通过评估身份、权限、策略和批准等信号,在“业务后果边界”上做出“持有”或“允许”的决策,并记录相应的效果证明。

该项目提供了一个简单的演示:一笔7.5万美元的供应商付款超出了代理5万美元的直接权限额度。在没有人工批准的情况下,CAGE-lite 会持有该行动,并记录为“未绑定”(NO_BIND)。随后,在添加批准证据后,行动被重新评估并允许执行,原始持有授权书得以保留并与重放授权书链接。CAGE-lite 本身没有替代现有的代理运行时、IAM、策略引擎、防护栏、审批系统或可观测性平台,而是整合这些系统产生的信号,决定是否允许行动跨越业务后果边界。每个评估过的行动都会生成一份“CAGE授权书”,包含决策证明、效果证明、证据引用、重放链接和完整性信息。

CAGE-lite 目前为 v1 产品预览版,Python 包版本为 0.1.2,CAGE Warrant 模式版本为 0.4。用户可以通过 PyPI 安装,也可以从源代码构建。该项目提供了多个示例脚本,用于演示不同的行为,如策略评估、无绑定证明、批准后绑定以及范围缩小等场景。通过 Streamlit 仪表盘,用户可以直观地查看最近的边界决策、原始持有行动以及重放后的结果。CAGE-lite 遵循 Apache License 2.0 开源许可,欢迎社区贡献。