AI CostGuard：AI代理本地優先運行時安全層

AI CostGuard 是由 Salim Assili 開發的一個開源（MIT 許可）的本地優先運行時安全層，專門用於保護 AI 代理在執行 API 調用之前免受費用失控、無限循環、重試風暴和預算爆炸的影響。該工具通過包裝 OpenAI 兼容的客户端和函數式 SDK（如 Vercel AI SDK、LangChain 等）來工作，在每次 API 調用實際執行之前，它會本地估算請求成本，並根據配置的預算和策略決定是否允許該調用。所有檢查均在本地完成，不依賴任何 SaaS 控制平面或雲儀表板，確保了數據的隱私和低延遲。

AI CostGuard 的核心功能包括：通過內置的定價註冊表或用户自定義的定價覆蓋來準確估算每次調用的成本；基於字符三重相似度檢測重複提示，從而識別潛在的循環；檢測重試模式以防止重試風暴；為每個項目、用户或會話提供隔離的預算和行為狀態。當檢測到違規時，它會拋出結構化的 GuardError 代碼，如 BUDGET_EXCEEDED、LOOP_DETECTED、RETRY_STORM_DETECTED 等，並提供詳細的元數據以便調試。

該工具提供了豐富的配置選項。用户可以設置預算限制、最大步驟數、循環檢測閾值、重試閾值、定價覆蓋規則、Webhook 通知（支持 Slack 和 Discord）以及 JSONL 事件日誌。此外，它還包含一個 CLI 工具用於快速預算檢查，以及一個本地儀表板用於可視化事件數據。對於需要跨進程共享支出的場景，AI CostGuard 提供了一個可選的 Pro 模塊，使用 Redis 進行分佈式追蹤。但請注意，許可證驗證在當前版本中僅作為兼容性字段存在，並不強制執行本地許可檢查。

性能方面，根據在 Node v24.14.1/Windows 上的基準測試，每次調用增加約 0.020691 毫秒的開銷。不過，作者建議用户在目標運行時重新測試以獲取準確的性能數據。AI CostGuard 提供了多種集成示例，包括 OpenAI、Anthropic、Vercel AI SDK、LangChain、Mastra、CrewAI 以及 CI 環境，使得開發者可以快速上手並應用到實際項目中。總體而言，AI CostGuard 是一個輕量級但功能強大的工具，旨在幫助開發者避免因 AI 代理失控而導致的高額費用，同時保持對成本和行為的透明控制。