オープンソースAIプラットフォームOrbit—プライベートデータと社内ツールを1つのAPIで接続

Orbitは、プライベートデータや社内ツール、さまざまなAIモデルを1つのOpenAI互換APIの背後でまとめて接続するオープンソースのAIバックエンドプラットフォームです。メンテナーはRemsy Schmilinsky氏で、Apache License 2.0のもとで公開されています。GitHubリポジトリは現在327スター、56フォークを集め、2,144件のコミットが積み重ねられており、いまも活発に開発が続いています。単なるチャットUIやモデルルーティングのツールではなく、ローカルまたは自社クラウドで動かせるバックエンドとして設計され、認証、可観測性、ガバナンスが最初から組み込まれている点が特徴です。

Orbitの基本思想は「何にでも接続する」ことです。PDF、Word、Excel、PPT、CSV、画像などのファイル、SQL/NoSQLデータベース、ベクターストア、Elasticsearch、REST/GraphQL API、そしてMCP（Model Context Protocol）ツールを自然言語で操作できます。管理者はYAMLでアダプターを定義し、OpenAI互換のエンドポイント1つで公開するだけで、ローカルのプロトタイプから管理された本番デプロイまで移行できます。

モデルに関して、Orbitはいわば「モデルゲートウェイ」に検索とツール実行を組み合わせた存在です。Ollama、llama.cpp、vLLMなどのローカルモデルと、OpenAI、Anthropic、Gemini、Bedrock、Azureなどのクラウドプロバイダーを、同一のAPI契約でルーティングできます。会話中に許可されたモデルへ切り替えたり、リトライやフォールバック、障害時のサーキットブレーカーも利用できます。

Dockerを使ったクイックスタートも用意されています。ローカル・オフライン向けのorbit-ollamaイメージを起動すると、初回に約7.2GBのgemma4:e2bモデルをコンテナ内へダウンロードします。クラウド版のorbit-openaiイメージはOPENAI_API_KEY、orbit-geminiイメージはGOOGLE_API_KEYを参照し、同じ1つの鍵でチャット、ビジョン、埋め込みを利用できる設計です。起動後、ポート5173がチャットUI、ポート3000がOpenAI互換APIとして機能し、http://localhost:3000/admin から管理パネル（初期値は admin / admin123）にアクセスできます。公式ドキュメントでは、localhostの外に公開する前にデフォルトのAPIキーと管理者パスワードを変更し、本番では常に最新の安定版を使うように注意を促しています。

主なユースケースとしては、プライベート文書とのチャット、複数言語でのデータベース問い合わせ、MCPツールを利用したエージェント構築、ガバナンス付きAIエンドポイントの提供などがあります。Orbitはクエリを生成してデータベースに対して実行し、結果をグラフ化することも可能です。また、ファイルシステム、Slack、Postgres、GitHub、JiraなどのMCPサーバーを追加すれば、専用のエージェントフレームワークなしでモデルに社内ツールを安全に使わせられます。

Orbitのセキュリティ・運用機能も充実しています。APIキー、RBAC、Entra ID / Auth0 SSO、レート制限、クォータ、モデレーション、AES-256-GCMによるファイル暗号化、クラウドシークレットマネージャー、ヘルスチェック、メトリクス、監査ログ、リクエストごとのトークンと推定コスト追跡、支出分析、データソースプーリング、ホットリロードなどを備えています。完全オフライン運用やローカル推論もサポートします。

アーキテクチャとしては、REST、OpenAI互換、MCP、A2A、メッセージキューの各リクエストを認証・ルーティングし、モデル、プライベートデータ、ツールへ振り分けます。公式ドキュメントでは、チュートリアル、アダプター設定、ファイル/ベクターストア/SQL接続、MCPガイド、本番運用の各ページに加え、Node.js SDKとPython/APIキーを使ったサンプルも提供されています。ライセンスはApache 2.0で、コントリビューションも歓迎されています。