跳到主要內容
AI News HubLIVE
更多
站內改寫1 分鐘閱讀

Show HN:面向AI代理的執行時安全強制與能力範圍控制

文章摘要

Clay Seal 是一種執行時安全工具,每次檢查AI代理的操作並記錄,防止越權行為。它提供能力管理、身份認證和可驗證收據三大元件,可單獨使用或全棧整合。

來源Hacker News AI作者: pberlizov
Show HN:面向AI代理的執行時安全強制與能力範圍控制
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

Clay Seal 是一種面向AI代理的執行時安全強制與能力範圍控制工具。它並非在會話開始時授予代理廣泛的許可權,而是在每次代理執行不可撤銷操作前,要求其出示專門為此操作簽發的令牌。如果操作細節發生變化或令牌已被使用,該操作將被阻止。

為什麼需要這樣的工具?傳統的靜態許可權模型如API金鑰或OAuth範圍,在整個會話期間賦予代理相同的訪問許可權。這對常規軟體來說足夠,但AI代理可能中途被誘導濫用許可權,而它已經擁有所需的一切。Clay Seal 透過逐操作檢查來解決這一問題。

Clay Seal 提供三個獨立元件,可單獨使用或全棧整合:能力管理(Runtime Authority)、身份認證(Attested Identity)和可驗證收據(Verifiable Receipts)。能力管理透過一次性提交令牌(Commit Tokens)實現執行時授權,每次操作都需要新的令牌,且令牌包含操作引數的雜湊,若引數改變則失效。身份認證要求代理在獲取憑證前證明其執行環境,憑證短命且繫結代理持有的金鑰,被盜的令牌本身無用。可驗證收據將每次操作記錄為簽名收據,包含所執行的策略,收據鏈相互連結,任何篡改都可被發現。

工作原理分為四個步驟:證明(Attest)、範圍界定(Scope)、引導(Steer)和密封(Seal)。代理首先證明執行環境並獲得身份,然後策略轉化為具體的允許操作列表,每次操作即時檢查,最後結果儲存為可驗證記錄。

Clay Seal 建立在多種開放標準之上,包括 SPIFFE/SVID、Biscuit 令牌、Ed25519、RFC 6962 Merkle 證明、SCITT、C2SP tlog-tiles、OIDC、MCP、AWS Nitro 認證和 OpenTelemetry GenAI,確保任何人均可獨立驗證收據。

目前該專案正在招募設計合作伙伴,申請者需加入等待列表,團隊每週稽核申請。

展開要點與分析

文章情報

工程師中級

要點

  • Clay Seal 在執行時逐一檢查AI代理的每個操作,阻止越權行為
  • 採用一次性令牌,確保每個操作都經過授權
  • 提供可驗證的收據鏈,便於事後審計
  • 支援 SPIFFE、Biscuit、Ed25519 等開放標準

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。