AI CostGuard – AIエージェント向けローカルファーストランタイムセーフティレイヤー

AI CostGuard は、Salim Assili によって開発されたオープンソース（MIT ライセンス）のローカルファーストランタイムセーフティレイヤーであり、AI エージェントが API コールを実行する前に、暴走コスト、無限ループ、リトライストーム、予算超過を防ぐことを目的としています。このツールは、OpenAI 互換のクライアントや関数型 SDK（Vercel AI SDK、LangChain など）をラップし、各 API コールの実行前にローカルでリクエストコストを見積もり、設定された予算とポリシーに基づいてそのコールを許可するかどうかを決定します。すべてのチェックはローカルで実行されるため、SaaS コントロールプレーンやクラウドダッシュボードに依存せず、データのプライバシーと低レイテンシを確保します。

AI CostGuard のコア機能には、組み込みの価格レジストリまたはユーザー定義の価格オーバーライドを使用したコスト見積もり、文字トリグラム類似性に基づく重複プロンプトの検出（ループ検出）、リトライパターンの検出（リトライストーム防止）、プロジェクト・ユーザー・セッションごとに分離された予算と動作状態の管理が含まれます。違反が検出されると、BUDGET_EXCEEDED、LOOP_DETECTED、RETRY_STORM_DETECTED などの構造化された GuardError コードがスローされ、デバッグのための詳細なメタデータが提供されます。

このツールは豊富な設定オプションを提供します。ユーザーは予算制限、最大ステップ数、ループ検出しきい値、リトライしきい値、価格オーバーライド、Webhook 通知（Slack と Discord をサポート）、JSONL イベントログを設定できます。さらに、CLI ツールによる簡単な予算チェックや、ローカルダッシュボードによるイベントデータの可視化も可能です。プロセス間で支出を共有する必要があるシナリオ向けに、オプションの Pro モジュールがあり、Redis を使用した分散トラッキングを提供します。ただし、ライセンス検証は現在のバージョンでは互換性フィールドとしてのみ存在し、ローカルでのライセンスチェックは強制されません。

パフォーマンスに関しては、Node v24.14.1/Windows 上でのベンチマークでは、呼び出しあたりのオーバーヘッドは約 0.020691 ミリ秒と測定されています。ただし、正確なパフォーマンスデータを得るためには、ターゲットランタイムで再テストすることを推奨します。AI CostGuard は、OpenAI、Anthropic、Vercel AI SDK、LangChain、Mastra、CrewAI、CI 環境など、さまざまな統合例を提供しており、開発者はすぐにプロジェクトに適用できます。全体として、AI CostGuard は軽量でありながら強力なツールであり、AI エージェントの暴走による高額なコストを回避し、コストと動作の透明性を維持するのに役立ちます。