Show HN: Aurora – Go製のAIゲートウェイ

Goで書かれたセルフホスト型AIゲートウェイ「Aurora」が、Apache 2.0ライセンスのオープンソースプロジェクトとして公開されています。Auroraは、OpenAIおよびAnthropic互換のAPIを提供し、複数のLLMプロバイダーを単一のインターフェースで利用できるようにすることを目的としています。対応プロバイダーはOpenAI、Anthropic、Gemini、Groq、DeepSeek、OpenRouter、xAI、Z.ai、MiniMax、Azure OpenAI、Oracle、Ollama、vLLM、Jinaの14種類。SDKを変更する必要はなく、base_urlをローカルのAuroraゲートウェイに向け替えるだけで利用を開始できます。

ルーティング機能としては、プロバイダーの自動検出、プロバイダープール、モデルエイリアス、モデル単位の上書き、5xx/429エラー時の自動フォールバック、ジッター付き指数バックオフ、プロバイダーごとのサーキットブレーカーなどを備えています。複数のAPIキーやエンドポイントをプール化してラウンドロビン/重み付けで負荷分散し、ヘルスチェックに基づくフェイルオーバーも可能です。さらに、/p/{provider}/*を使った透過的プロキシや、カスタムベースURLの上書きにも対応しています。

キャッシュ・セキュリティ面では、Redisを使った完全一致キャッシュ、ベクトル類似度によるセマンティックキャッシュ、Anthropic/OpenAI/Geminiのネイティブプロンプトキャッシュをサポート。マスターキー認証、スコープ付きAPIキー、キー単位のレート制限、PIIマスキング、プロンプトインジェクション検出、システムプロンプト保護、正規表現によるブロック、文字数制限、補助LLMによるコンテンツ書き換えガードレールなどを実装しています。

観測可能性とコスト管理も重視されており、監査ログ、使用量分析、Prometheusメトリクス、React製の管理ダッシュボード、pprofエンドポイントが用意されています。コスト管理機能には、ポリシー駆動の出力圧縮「Token Saver」、モデルごとの価格上書き、キーごとの使用量予算が含まれます。デプロイ方法はnpm CLI、Docker、Kubernetes（Helm）から選択でき、GrafanaダッシュボードやDocker Composeによるインフラ一式も提供されています。

Auroraは、アプリケーションとAIプロバイダーの間をつなぐ統一レイヤーとして、「ベンダーロックインなし」「高速動作」「柔軟なデプロイ」を掲げています。ローカルでの試用からチームでの本番運用まで、設定ファイル、環境変数、Helm、管理UIなど多様な方法で構成を管理できる設計です。ソースコードはGitHubで公開されており、Apache 2.0のもとで自由に利用できます。