AIエージェントのトレーシングとテナント分離ファイアウォール（Apache 2.0）

Luminは、本番環境でのLLMエージェント運用のために設計されたオープンソースプラットフォームで、Apache 2.0ライセンスで提供されています。これは4つの柱を中心に構築されています：観察、統治、防御、運用。観察の柱では、Luminはユニバーサルトレーシングを提供し、Python SDK、TypeScript SDK、LangChain、LangGraph、LlamaIndex、CrewAI、AutoGenなど16のファーストクラス統合をサポートしています。LLM呼び出し、ツール呼び出し、検索、埋め込みを含む完全なスパンツリーをキャプチャし、マルチターンセッションとリアルタイムストリーミングをサポートします。コストとトークンの帰属により、呼び出しごとの内訳が可能で、評価とスコアリングによりトレースの詳細な分析が可能です。

統治の柱は、型付きDSLを使用したポリシーベースのエンジンと、ライフサイクル（before_proxy_call/after_proxy_call）、優先度、重大度、条件（prompt_guard_score(...)、has_image_markdown_exfil(...)、vault_match(...)、cost_in_window(...)など）をサポートするルールを備えています。12のスターターポリシーパックが組み込まれており、OWASP LLM Top 10、OWASP Agentic 2025、GDPR、HIPAA、PCI-DSSなどをカバーしています。ルールはシャドウモードで自動インストールされ、ダッシュボードで確認した後、1つずつ強制モードに昇格できます。バージョン管理、ロールバック、監査によりポリシー管理の信頼性が確保されます。ポリシーサジェスターは実際のトレースからパターンをマイニングしてルールを提案し、リプレイ機能は履歴トレースに対してドラフトポリシーをテストできます。ドリフト検出は、プロンプトインジェクションスコア、PII率、ツール呼び出し形状の変化を警告します。さらに、人間の介入が必要なルールのための承認キューと意思決定監査も提供されます。

防御の柱は、ランタイムでOWASP LLM Top 10保護を実装します。8つの検出方法を階層化しています：Presidio NER（PII認識）、Prompt Guard 2（インジェクション分類器）、Llama Guard 4（14のMLCommonsハザードカテゴリ）、LLM判断、埋め込み類似性、間接プロンプトインジェクション検出、ローカルトレーニング可能な分類器、正規表現パック。テナント分離ファイアウォールは防御の柱の重要な部分であり、マルチテナントボット向けに設計されています。5つの構造層で構成されています：ファイルストレージサンドボックス（すべてのファイルシステムツール呼び出しを送信者ごとに分離されたディレクトリに書き換える）、シェルとエグレス拒否（exec、bash、python、web_fetchなどのツールをデフォルトで拒否）、会話履歴リセット（アクティブな送信者が変わるとLLMのメッセージ履歴をクリア）、入力編集（Presidio NERと構造正規表現を使用してPIIを置換）、監査証跡（すべてのブロック、編集、サンドボックス書き換えを記録）。このファイアウォールは実際のシナリオで検証済みで、TelegramからSlackへのデータ漏洩試行を正常にブロックしました。

運用の柱には、Webhookファンアウト（すべてのブロック、ポリシーヒットをPagerDuty、Slack、SIEMに通知）、バックアップと保持（スケジュールされたDuckDBスナップショットと設定可能な保持ウィンドウ）、メトリクスとヘルスチェック（Prometheus形式の/v1/admin/metricsエンドポイント）が含まれます。Luminは耐障害性を重視して設計されており、Luminがダウンしてもエージェントは失敗しません。キューがあふれたりサーバーが5xxを返したりすると、スパンは静かにドロップされます。

デプロイは非常に簡単です。Luminは単一のDockerコンテナとして実行され、DuckDBとSQLiteを使用し、外部サービスは不要です。ローカルデプロイにはDocker Composeが推奨され、APIとダッシュボードを1つのコマンドで起動できます。パブリックVPSの場合は、ポートを127.0.0.1にバインドし、SSHトンネルを介してダッシュボードにアクセスすることをお勧めします（現行バージョンには認証が組み込まれていないため）。デフォルトイメージはen_core_web_lgモデル（約750MB）を使用しますが、ビルド引数でより小さなモデルに切り替えることができます。

Luminはまた、PythonおよびTypeScript SDK、ならびにLangChain、LangGraph、LlamaIndex、CrewAI、AutoGen、LiteLLM、OpenAI Agents、Pydantic AI、Anthropic、Mastra、VoltAgent、OpenClaw向けのプラグインを含む広範な統合を提供します。OpenAI互換プロキシを使用すると、コード変更なしでOpenAI、Ollama、Anthropic互換クライアントを自動計装できます。

他のツールと比較すると、Luminは可観測性、セキュリティ、ガバナンスにおいてより包括的なソリューションを提供します。Langfuseはトレーシングに特化していますがセキュリティ層が欠けており、LakeraやNemoGuardrailsは単一点の分類を提供するだけです。Luminは可観測性、ポリシーライフサイクル、ランタイム保護を組み合わせており、他の可観測性スタックと共存できます。

要約すると、LuminはLLMエージェントのプロダクション運用のためのオールインワンプラットフォームであり、ローカルファースト、オープンソース、セキュリティを重視しています。特に、マルチテナント分離と包括的なOWASP保護を必要とするチームに適しています。