開源AI令牌分析器 – 發現你的令牌都去了哪裡
Rekon 是一個開源的透明代理,用於 Anthropic 和 OpenAI API,記錄令牌使用情況並在儀表板中顯示。它支援零延遲、不儲存金鑰、會話樹重建和工具級歸因,基於 Cloudflare Workers 構建。
Rekon 是一個開源專案,旨在幫助開發者深入瞭解其 AI API 呼叫的令牌消耗情況。它作為一個透明代理執行在 Anthropic 和 OpenAI API 之前,記錄每個請求的令牌使用資料,並在一個直觀的儀表板中呈現。該專案由 Cloudflare Workers、D1 資料庫、Hono 框架和 React 前端構建,提供了一個完整的解決方案。目前,一個託管的例項執行在 tryrekon.com,方便開發者快速體驗。
Rekon 的核心特性包括零延遲架構——響應直接流式傳輸到客戶端,記錄過程在關鍵路徑之外非同步進行,因此不會影響 API 呼叫的速度。此外,該代理從不儲存 API 金鑰,身份驗證頭僅被轉發,確保使用者始終使用自己的金鑰或訂閱進行付費。為了應對聊天 API 的無狀態特性,Rekon 透過客戶端訊號重建完整的會話樹,包括分支,使得開發者能夠追溯每次對話的令牌消耗路徑。工具級歸因功能進一步細化了令牌消耗的可見性,明確指出哪些工具消耗了最多的令牌。
使用 Rekon 非常簡單:首先在儀表板中建立一個系統,獲得一個唯一的代理 URL。然後,將客戶端指向該 URL 即可。例如,對於 Anthropic 客戶端,設定環境變數 ANTHROPIC_BASE_URL=https://<你的系統ID>/s/;對於 OpenAI 客戶端,設定 OPENAI_BASE_URL=https://<你的系統ID>/s//openai/v1。所有請求都會被轉發(包括認證頭),並在返回時記錄使用情況。系統 ID 同時充當接收金鑰,未知 ID 會被拒絕,因此部署永遠不會成為開放中繼。請將 URL 視為機密。
對於想要自行部署的使用者,Rekon 提供了詳細的快速入門指南:克隆倉庫、安裝依賴、複製環境變數示例檔案並設定 SESSION_SECRET 和至少一個 OAuth 提供商(Google 或 GitHub),然後執行型別生成、資料庫遷移和開發伺服器。部署到 Cloudflare Workers 時,需要建立 D1 資料庫,配置 wrangler.jsonc,設定 secrets,執行遠端遷移,然後部署。注意,部署命令不會自動執行遷移。
費用估算基於 shared/pricing.ts 中的標價,未知模型不顯示費用。完整的架構文件、會話重建細節、令牌歸因方法、端點列表和檔案佈局均在 AGENTS.md 中。專案採用 Apache 2.0 許可證,完全開源,商業模型專注於託管部署,而不是對程式碼收費。貢獻者需簽署 DCO。