Show HN: Lelu – OpenAIエージェントのアクションを信頼度とプロンプトインジェクションでゲート制御
Lelu は、AIエージェントのすべてのアクションに対してプロンプトインジェクション、低信頼度の決定、ポリシー違反をチェックするオープンソースの認可エンジンです。信頼度ゲート、ポリシー評価、リスクモデルを含む多層パイプラインを使用し、必要に応じて人間が介在するレビューをサポートします。セルフホスティング可能、MITライセンス、Node.jsおよびPython向けSDKを提供。
Lelu は、AIエージェント向けのオープンソース認可エンジンであり、従来の認可ツール(OPA、Casbin、AWS AVPなど)とは異なり、正当に認可されたエージェントがプロンプトインジェクションや低信頼度の決定によって危険な操作を行うことを検出します。
Lelu の核心は多層パイプラインです。API認証とシャドウエージェント検出に続き、5層のプロンプトインジェクションフィルター(完全一致、同形文字、ファジー、構造分析、エントロピー)を通過し、次に信頼度ゲート(OpenAIまたはAmazon Bedrockのトークン対数確率を利用)を評価します。その後、YAMLロールとOPA/Regoに基づくポリシー評価、リスクモデル(重要度×(1−信頼度)×信頼性×異常係数)によって最終決定が下されます。すべての決定は監査ログに記録され、不確かな決定は人間によるレビューキューに入り、Slack、Teams、PagerDutyを通じて通知されます。
コア機能に加えて、Lelu はOAuthトークンボールトを提供し、AES-256-GCM暗号化で認証情報を保存し、自動リフレッシュをサポートします。8つの内蔵プロバイダー(Google、GitHub、Slack、Salesforce、Notion、Linear、Jira、Microsoft)に対応。NHIインベントリは、登録エージェント、シャドウエージェント、ボールト認証情報を一元管理し、OWASP NHIトップ10のセキュリティチェック(過剰権限、長期シークレット、古いアイデンティティ、クロス租税再利用など)を実行します。エージェントIDは安定したUUIDとRS256ワークロードJWT(OIDC準拠)で管理され、MCP OAuth 2.1サーバーと動的登録をサポートします。
Lelu は簡単にローカルデプロイでき、60秒でデモを実行可能で、クラウドアカウントやPostgres、Redisは不要でSQLiteだけで動作します。Node.jsおよびPython SDKを提供し、OpenAI、Anthropic、LangChain、LangGraph、CrewAI、Vercel AI SDK、MCPなどのフレームワークとシームレスに統合できます。セルフホスティングはDockerまたはHelmを使用し、データベースはSQLite(ローカル)またはPostgres(本番)をサポートします。このプロジェクトはMITライセンスの下で公開されており、コントリビューションを歓迎します。