SteerPlane：AIエージェント向けオープンソースランタイムガードレール

SteerPlaneは、AIエージェントの安全性と制御を提供するオープンソースのランタイムガードレールツールです。AIエージェントがAPIを呼び出し、コードを実行し、ウェブを閲覧し、実際の意思決定を行うにつれて、潜在的なリスクも生じます。設定を誤ったエージェントは無限ループに陥り、一晩で1万ドル以上のAPI費用を消費したり、可視性ゼロで破壊的なアクションを実行したりする可能性があります。SteerPlaneは、たった一行のコードでこれらの問題を解決します。

仕組み

SteerPlaneは、Pythonデコレータとコンテキストマネージャの2つのAPIを提供します。@guardデコレータを使用すると、開発者はエージェント名、最大コスト（例：10.00ドル）、最大ステップ数（例：50）、拒否アクション（例：delete_*）、施行モードを指定できます。エージェントの実行中、SteerPlaneはすべてのステップを静かに監視し、財務またはランタイムの制限に達すると一時停止して人間の承認を待ち、ループやポリシー違反は直ちに終了します。

主な機能

• ループ検出：O(W²)スライディングウィンドウアルゴリズムを使用し、サブミリ秒で単一アクション、交互、マルチステップの繰り返しパターンを検出。LLM呼び出し不要。
• コスト上限：実行ごと（SDK）またはセッションごと（ゲートウェイ）にUSD制限を設定。各ステップ後にチェックし、超過は1ステップに制限。OpenAI、Anthropic、Google、Meta、Mistralの25以上のモデルの価格を内蔵。
• ストリーミングゲートウェイ：リアルタイムSSEチャンク転送と、ストリーム中のコストキルをサポート。予算超過時、SteerPlaneは終了イベントを注入し接続を切断。
• ポリシーエンジン：グロブパターンによる許可/拒否リストとスライディングウィンドウレート制限。
• ゲートウェイプロキシ：OpenAI互換のAPIプロキシ。base_urlを変更するだけでゼロコード施行。エージェントはプロバイダキーをゲートウェイに渡し、すべてのトラフィックが強制チェックを経てから転送される。
• リアルタイムダッシュボード：Next.jsベースで、自動更新、アニメーションタイムライン、コスト内訳、ポリシー管理を提供。
• CLIツール：実行リスト、ステータス、キー管理などをターミナルから実行。
• 設定ファイル：.steerplane.ymlを自動検出し、ソースコードに制限をハードコードする必要なし。
• フレームワーク統合：LangChain、OpenAI Agents SDK、CrewAI、AutoGenをゼロコンフィグでサポート。
• Docker Compose：API + Dashboard + PostgreSQLを1コマンドで起動。
• グレースフルデグラデーション：APIダウン時もSDKがローカルですべての制限を施行。エージェントは決して無防備にならない。

デプロイ方法

Docker推奨：リポジトリをクローンし、環境変数ファイルをコピーし、docker compose up -dを実行。APIはlocalhost:8000、Dashboardはlocalhost:3000、PostgreSQLは自動設定。手動セットアップも可能で、SDKをインストールし、APIとDashboardを起動。CLIツールも利用可能。

フレームワーク統合例

• LangChain：SteerPlaneCallbackHandlerをコールバックとして使用し、agent_name、max_cost_usdなどを指定。
• OpenAI Agents SDK：SteerPlaneAgentHooksでエージェントのライフサイクルをラップ。
• CrewAI：SteerPlaneCrewMonitorを使用し、step_callbackを設定。
• AutoGen：SteerPlaneAutoGenMonitorでチャットを開始。

ゲートウェイプロキシ（ゼロコードモード）

変更できないエージェントのために、SteerPlaneはOpenAI互換ゲートウェイプロキシを提供し、リアルタイムストリーミングとストリーム中のコスト強制をサポート。エージェントはbase_urlをゲートウェイに向け、リクエストヘッダーで実際のプロバイダキーを渡す。ゲートウェイはSteerPlaneキーを認証後、ポリシー、コスト、ループチェックを実行してからリクエストを転送する。

ポリシーエンジン

ポリシーエンジンはコスト発生前に実行され、厳密な優先順位で施行：拒否リスト → 許可リスト → レート制限。拒否リストはグロブパターン（例：delete_*）で一致したアクションを即時ブロック。許可リストが設定されている場合、アクションは少なくとも1つのパターンに一致する必要がある。レート制限はスライディングウィンドウカウンターを使用し、しきい値を超えるとブロック。

施行モード

セルフホスト無料版はキルモード：違反があれば即座に確定的に終了。SDKはenforcement="alert"オプションも提供（一時停止 → 人間に通知 → 承認/拒否/延長 → タイムアウトで自動終了）。これはホスト/エンタープライズ版のバックエンドが必要。無料のセルフホストAPIを指す場合、アラートモードは安全に終了しエラーを返す。

ループ検出とポリシー違反は、施行モードに関係なく常に即時終了をトリガー。これらはオーバーライド不可のセキュリティ制約。

SteerPlaneのオープンソースSDKと無料セルフホスト版は、開発者に強力なランタイム制御を提供し、ホスト/エンタープライズ版は人間の承認ワークフロー、サーバーサイドキーボールティング、Redisベースのマルチワーカーゲートウェイ状態を追加する。