跳到主要内容
AI News HubLIVE
更多
站内改写1 分钟阅读

Show HN:面向AI代理的运行时安全强制与能力范围控制

文章摘要

Clay Seal 是一种运行时安全工具,每次检查AI代理的操作并记录,防止越权行为。它提供能力管理、身份认证和可验证收据三大组件,可单独使用或全栈集成。

来源Hacker News AI作者: pberlizov
Show HN:面向AI代理的运行时安全强制与能力范围控制
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

Clay Seal 是一种面向AI代理的运行时安全强制与能力范围控制工具。它并非在会话开始时授予代理广泛的权限,而是在每次代理执行不可撤销操作前,要求其出示专门为此操作签发的令牌。如果操作细节发生变化或令牌已被使用,该操作将被阻止。

为什么需要这样的工具?传统的静态权限模型如API密钥或OAuth范围,在整个会话期间赋予代理相同的访问权限。这对常规软件来说足够,但AI代理可能中途被诱导滥用权限,而它已经拥有所需的一切。Clay Seal 通过逐操作检查来解决这一问题。

Clay Seal 提供三个独立组件,可单独使用或全栈集成:能力管理(Runtime Authority)、身份认证(Attested Identity)和可验证收据(Verifiable Receipts)。能力管理通过一次性提交令牌(Commit Tokens)实现运行时授权,每次操作都需要新的令牌,且令牌包含操作参数的哈希,若参数改变则失效。身份认证要求代理在获取凭证前证明其运行环境,凭证短命且绑定代理持有的密钥,被盗的令牌本身无用。可验证收据将每次操作记录为签名收据,包含所执行的策略,收据链相互链接,任何篡改都可被发现。

工作原理分为四个步骤:证明(Attest)、范围界定(Scope)、引导(Steer)和密封(Seal)。代理首先证明运行环境并获得身份,然后策略转化为具体的允许操作列表,每次操作实时检查,最后结果保存为可验证记录。

Clay Seal 建立在多种开放标准之上,包括 SPIFFE/SVID、Biscuit 令牌、Ed25519、RFC 6962 Merkle 证明、SCITT、C2SP tlog-tiles、OIDC、MCP、AWS Nitro 认证和 OpenTelemetry GenAI,确保任何人均可独立验证收据。

目前该项目正在招募设计合作伙伴,申请者需加入等待列表,团队每周审核申请。

展开要点与分析

文章情报

工程师中级

要点

  • Clay Seal 在运行时逐一检查AI代理的每个操作,阻止越权行为
  • 采用一次性令牌,确保每个操作都经过授权
  • 提供可验证的收据链,便于事后审计
  • 支持 SPIFFE、Biscuit、Ed25519 等开放标准

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。