Show HN: RiskKernel – 暴走AIエージェントのためのキルスイッチと予算管理

RiskKernelは、AIエージェントの信頼性を確保するために設計された新しいオープンソースプロジェクトです。一人の開発者によって構築され、自己ホスト型のバイナリとして提供され、制作環境でAIエージェントが陥りがちな問題、すなわち無限ループ、予期せぬ高額請求、障害回復の欠如、可観測性の不足、人間の監視の不在、ガバナンスの欠如に焦点を当てています。

既存のエージェントフレームワーク（LangGraph、CrewAI、AutoGenなど）は主に推論プロセスをオーケストレーションしますが、エージェントが夜間に無制限にループして多額の料金を消費するのを防ぐガードレールは内蔵されていません。RiskKernelはエージェントの手前に配置される信頼性ランタイムであり、強制力のある制限を課します。予算、キルスイッチ、ゲーティングなどを決定論的なGoコードで処理し、LLMは提案のみを行います。

RiskKernelの主要機能は次のとおりです。ハードなコスト上限（実行が予算に達した時点でクリーンに終了し、状態を永続化）、ハードなループ反復上限（無限ループを防止）、ハードな実時間予算（時間超過で停止）、クラッシュ再開可能なチェックポイント（デーモンがkill -9されても最後のチェックポイントから再開し、予算を再消費しない）、フレームワークに依存しない人間承認ゲート（副作用のあるツール呼び出しは人間の承認を待つ）、自分のメモリ（Gitネイティブのmarkdown/YAMLをディスクに保存、エピソード状態はSQLiteに保存）、OpenTelemetry GenAIサポート（gen_ai.*スパンを発行）。

導入方法は3つあります。プロキシ（環境変数OPENAI_BASE_URLを設定するだけでゼロコード変更）、Python SDK（深い制御とClaude Agent SDK、OpenAI Agents SDK、LangChain向けのアダプタを提供）、またはOpenTelemetry（既にOpenLLMetryなどで計装されたアプリケーションを統治するためのOTLPエンドポイントおよびエミッターとして機能）。

クイックスタートはシンプルで、Dockerで実行し、APIキーとデフォルト予算（例：50セント）を設定し、既存のエージェントをポイントするだけです。コードベースQ&A、クラッシュ復旧デモ、LangChain統合、MCPツールゲーティングなどの豊富な例も提供されています。

設計原則は、Goによる決定論的なコア、テレメトリなし、ユーザーの鍵とインフラストラクチャ、ほぼゼロの導入摩擦（1つの環境変数）、後方互換性の重視です。プロジェクトはApache-2.0ライセンスで提供され、コントリビューションを歓迎しています。