AI CostGuard：AI代理本地優先執行時安全層

AI CostGuard 是由 Salim Assili 開發的一個開源（MIT 許可）的本地優先執行時安全層，專門用於保護 AI 代理在執行 API 呼叫之前免受費用失控、無限迴圈、重試風暴和預算爆炸的影響。該工具透過包裝 OpenAI 相容的客戶端和函式式 SDK（如 Vercel AI SDK、LangChain 等）來工作，在每次 API 呼叫實際執行之前，它會本地估算請求成本，並根據配置的預算和策略決定是否允許該呼叫。所有檢查均在本地完成，不依賴任何 SaaS 控制平面或雲儀表板，確保了資料的隱私和低延遲。

AI CostGuard 的核心功能包括：透過內建的定價登錄檔或使用者自定義的定價覆蓋來準確估算每次呼叫的成本；基於字元三重相似度檢測重複提示，從而識別潛在的迴圈；檢測重試模式以防止重試風暴；為每個專案、使用者或會話提供隔離的預算和行為狀態。當檢測到違規時，它會丟擲結構化的 GuardError 程式碼，如 BUDGET_EXCEEDED、LOOP_DETECTED、RETRY_STORM_DETECTED 等，並提供詳細的後設資料以便除錯。

該工具提供了豐富的配置選項。使用者可以設定預算限制、最大步驟數、迴圈檢測閾值、重試閾值、定價覆蓋規則、Webhook 通知（支援 Slack 和 Discord）以及 JSONL 事件日誌。此外，它還包含一個 CLI 工具用於快速預算檢查，以及一個本地儀表板用於視覺化事件資料。對於需要跨程序共享支出的場景，AI CostGuard 提供了一個可選的 Pro 模組，使用 Redis 進行分散式追蹤。但請注意，許可證驗證在當前版本中僅作為相容性欄位存在，並不強制執行本地許可檢查。

效能方面，根據在 Node v24.14.1/Windows 上的基準測試，每次呼叫增加約 0.020691 毫秒的開銷。不過，作者建議使用者在目標執行時重新測試以獲取準確的效能資料。AI CostGuard 提供了多種整合示例，包括 OpenAI、Anthropic、Vercel AI SDK、LangChain、Mastra、CrewAI 以及 CI 環境，使得開發者可以快速上手並應用到實際專案中。總體而言，AI CostGuard 是一個輕量級但功能強大的工具，旨在幫助開發者避免因 AI 代理失控而導致的高額費用，同時保持對成本和行為的透明控制。