Democr.ai：セルフホスト型エージェンティックAIランタイム（監査・RBAC対応）

Democr.ai は、オープンソースのセルフホスト型エージェンティックAIランタイムフレームワークです。AIアプリケーション向けに完全なランタイム環境を提供します。従来のAIアプリケーションスタック（チャットUI、LLMクライアント、ワークフローライブラリ、独立した監査・許可・サンドボックス・可観測性インフラを組み合わせる必要がある）とは異なり、Democr.ai はこれらの懸念を単一のランタイム契約に統合します。フレームワークは厳格なモジュールアーキテクチャに基づいており、認証を含むすべてのコンポーネントは公開SDKを使用してモジュールとして構築されています。

コア機能には、サーバ駆動型UI（Google A2UIプロトコルを拡張）、マルチクライアントレンダリング（Web・デスクトップ）、書き込み時に強制されるネイティブマルチテナンシー、クロスプラットフォームOSレベルのサンドボックス化（Linux: Landlock+seccomp+iptables、macOS: Seatbelt、Windows: 低整合性+WFP）、SQLAlchemyフックによる三重監査（機密フィールド編集可能）、宣言型モジュールマニフェストによるRBAC、プラグイン可能なAIエンジンオーケストレーション（ローカル・リモート・分散ランタイム）、エンジンクォータ管理、ベクターおよびグラフバックエンドを持つ知識サブシステムが含まれます。

Democr.ai の差別化要因は、セキュリティと監査をアプリケーション規約ではなくランタイムプリミティブとして扱う点です。モデル呼び出しはオーケストレーターを通じて処理され、ローカル・リモートプロバイダー、プロセス分離、クォータ、マルチノード実行をサポートします。知識取り込み、検索、メディア処理、ツール、MCP、エージェントスキルは同じリクエストと可観測性コンテキストを共有します。プロジェクトはベータ版ですが、アーキテクチャはデモや単一チャットボットのプロトタイプではなく、本番グレードの制約を目指しています。

A2UIはDemocr.aiの重要な革新です。エージェントがUIコンポーネントを構築し、それらがネイティブアプリケーションサーフェスとしてレンダリングされることを可能にします。モジュールはサーバ上で宣言的にUIを記述し、エージェントの作業中に構造化アップデートをストリームします。これにより、バックエンドが動作、アクション、ランタイム効果の所有権を保持します。

パフォーマンス面では、4インスタンス構成で30分間に468,840リクエストを処理し、スループット1,543.83 req/s、平均レイテンシ33.28ms、p95 47.05msを達成。8インスタンスではスループット2,374.55 req/sに向上しました。これらはローカルストレステストのスナップショットであり、汎用的なパフォーマンス主張ではありません。テスト環境はIntel Core i9-14900K、64GB RAM、Ubuntu 24、Python 3.12.3。4インスタンス実行時のリソース使用量は、平均総CPU 1326.9%、ピークRSS 7092.1 MBでした。

セキュリティモデルは偶発的なサプライチェーン妥協（サードパーティモジュールのバグや脆弱な依存関係）をカバーしますが、デプロイヤーが意識的にインストールした悪意のあるモジュールは対象外です。設定ファイル（config.yaml）は平文で、セットアップウィザードによりローカル生成されます。シークレットはデータベースに保存された場合のみ静的暗号化されます。

クイックスタートにはPython 3.12+が必要で、python main.py setupで初期設定を行います。CLIはデータベース管理、モジュール、エンジン、知識サブシステムのための豊富なコマンド（例：python main.py db migrate -m "desc"、python main.py install-engines examples/engine-install.example.yaml）を提供します。詳細なドキュメントは democr.ai/docs/ にあります。

要約すると、Democr.ai はコンプライアンス、可観測性、ベンダーロックイン回避を必要とするチーム向けに、UI、AIエンジン、セキュリティ、監査を統合したランタイムソリューションを提供します。これは単なる薄いラッパーやモデルルーター、チャットUIライブラリではなく、モジュール、エンジン、抽出器、クライアントが単一の一貫したシステムを構成するランタイムです。