AI_glue – OpenAIおよびAnthropicアプリ向けのドロップイン監査・ガバナンスツール

AI_glueは、OpenAIおよびAnthropicのAPIを利用するアプリケーション向けに設計された、オープンソースの軽量ツールです。アプリケーションとモデルプロバイダーの間に透過プロキシとして配置され、コード変更なしで呼び出しのログ記録、支出監視、PII（個人識別情報）検出、およびハードガバナンスルールの適用を実現します。

統合方法は2つあります。プロキシモードでは、ANTHROPIC_BASE_URLまたはOPENAI_BASE_URLをAI_glueインスタンスに向けるだけで、すべてのAPI呼び出しが自動的にインターセプトされ、ログ記録とガバナンスチェックが行われます。ストリーミングも完全にサポートされており、応答を変更せずにトークン数とレイテンシを取得します。X-Aiglue-ProjectやX-Aiglue-Sessionヘッダーでコールにタグを付けることも可能で、指定がない場合は環境変数のデフォルト値が使用されます。ラッパーモードでは、GluedClientクラスを使用して元のSDKと同じAPIを提供し、セッションIDやプロジェクトラベルを自動的に注入します。

ガバナンスエンジンはgovernance.yaml設定ファイルで定義します。変更は即座に反映され、再起動は不要です。モデルのホワイトリスト（未承認モデルを403でブロック）、日次支出上限、時間あたりのレート制限、PII検出などを設定可能です。PII検出は正規表現ベースで、メールアドレス、社会保障番号、電話番号、クレジットカードなどを検出しますが、呼び出しをブロックせず警告として記録します。違反する呼び出しはハードブロックされ、ログにも残りません。チームAPIキーマッピング機能を使用する場合、governance.yamlにはキー接頭辞と実際のプロジェクト名のマッピングが含まれるため、機密ファイルとして扱い、ファイルシステムのアクセス権を制限し、バージョン管理にコミットしないでください。

ダッシュボードは3つのビューを提供します。/監査ビューでは、すべてのインスタンスからの全コールログを1つのテーブルに表示し、トークン数、コスト、レイテンシ、PIIフラグを確認できます。/executiveエグゼクティブビューは非技術者向けに、総AI支出、アクティブなプロジェクト、会話数、リスクフラグをカード形式で表示し、「すべてレビュー済みとしてマーク」アクションを提供します。/aggregateマルチインスタンスビューでは、各インスタンスの個別サマリーを並べて比較できます。マルチインスタンス集約機能により、親インスタンスが子インスタンスから/api/summaryを取得し、すべてを統合ビューにマージします。子インスタンスは親のgovernance.yamlに追加するだけで設定できます。

さらに、チームごとのAPIキーマッピングにより、各チームに認識可能な接頭辞を持つ合成キーを発行し、プロキシが接頭辞を検出して自動的にタグ付けし、実際のAPIキーに置き換えて転送します。これにより、集中請求とチームごとのコスト配分が可能になります。トレーニングデータエクスポート機能は、/export/trainingエンドポイントを介してログをJSONL形式に変換し、セッション形式またはターン形式でエクスポートできます。これは、依存するモデルが非推奨になった場合に、ファインチューニング用のデータを確保するのに特に有用です。

ログには、タイムスタンプ、プロバイダー、モデル、セッションID、プロジェクト、入出力トークン数、推定コスト、レイテンシ、プロンプトハッシュ、生テキスト（AIGLUE_LOG_RAW=trueの場合）などが含まれます。機密性の高いシナリオでは、生テキストの記録を無効にできます。プロジェクトはPython 3.7以降、Flask、SQLiteで構築されており、テストスイートはAPIキー不要で27のテストが実行可能です。