AI News HubLIVE
サイト内リライト2 分で読了

オープンソースAIトークンプロファイラ – トークンの行先を発見

Rekon は、Anthropic および OpenAI API 用の透過的なプロキシで、トークン使用量を記録しダッシュボードに表示します。ゼロレイテンシ、キー非保存、セッションツリー再構築、ツールレベルの帰属を備え、Cloudflare Workers 上に構築されています。

ソースHacker News AI著者: TreDub

Rekon は、開発者が AI API 呼び出しのトークン消費状況を詳細に把握できるようにするオープンソースプロジェクトです。Anthropic および OpenAI API の前に透過的なプロキシとして配置され、各リクエストのトークン使用データを記録し、直感的なダッシュボードで表示します。このプロジェクトは Cloudflare Workers、D1 データベース、Hono フレームワーク、React フロントエンドで構成されており、完全なソリューションを提供します。ホステッドインスタンスは tryrekon.com で実行されており、すぐに試すことができます。

Rekon の主要な機能には、ゼロレイテンシアーキテクチャが含まれます。レスポンスはクライアントに直接ストリームされ、記録プロセスはクリティカルパス外で非同期に行われるため、API 呼び出しの速度に影響を与えません。また、プロキシは API キーを一切保存せず、認証ヘッダーを転送するだけなので、ユーザーは常に自身のキーまたはサブスクリプションを使用して料金を支払います。チャット API のステートレスな性質に対応するため、Rekon はクライアントシグナルから完全なセッションツリーを再構築し、ブランチも含めます。これにより、開発者は各会話のトークン消費経路を追跡できます。ツールレベルの帰属機能は、どのツールが最も多くのトークンを消費したかを明確に示します。

Rekon の使用は簡単です。まずダッシュボードでシステムを作成し、固有のプロキシ URL を取得します。次に、クライアントをその URL にポイントします。例えば、Anthropic クライアントの場合は環境変数 ANTHROPIC_BASE_URL=https://<システムID>/s/ を設定し、OpenAI クライアントの場合は OPENAI_BASE_URL=https://<システムID>/s//openai/v1 を設定します。すべてのリクエストはそのまま転送され(認証ヘッダーを含む)、戻り時に使用状況が記録されます。システム ID はインジェストキーとしても機能し、未知の ID は拒否されるため、デプロイメントがオープンリレーになることはありません。URL は機密として扱ってください。

自分でデプロイする場合、Rekon は詳細なクイックスタートガイドを提供しています。リポジトリをクローンし、依存関係をインストールし、環境変数ファイルをコピーして SESSION_SECRET と少なくとも1つの OAuth プロバイダー(Google または GitHub)を設定し、型生成、データベースマイグレーション、開発サーバーの実行を行います。Cloudflare Workers にデプロイするには、D1 データベースを作成し、wrangler.jsonc を設定し、シークレットを設定し、リモートマイグレーションを実行した後、デプロイします。デプロイコマンドはマイグレーションを自動的に実行しないことに注意してください。

コストは shared/pricing.ts の定価から見積もられ、未知のモデルはコストを表示しません。アーキテクチャ、セッション再構築、トークン帰属、エンドポイントリスト、ファイルレイアウトの詳細は AGENTS.md に記載されています。プロジェクトは Apache 2.0 ライセンスで完全にオープンソースであり、商業モデルはホステッドデプロイメントに焦点を当てており、コードに対してペイウォールを設けていません。貢献は DCO に基づいて受け付けられており、コミットに署名する必要があります。