OpenAIの使用にハードなドル上限を強制するRailsプロキシ

ai_budget_proxyは、アプリケーションとOpenAIの間に配置されるステートレスなHTTPプロキシで、ハードな支出上限を強制します。上限に達するとリクエストは停止し、ループや忘れられたテストスクリプトによる予期せぬ高額請求を防ぎます。OpenAIキーはプロキシに保存されず、各リクエストで直接転送されます。トークン管理、セキュリティ対策、レート制限を提供します。現在は非ストリーミングのみ対応で、ストリーミング対応やダッシュボードの計画があります。