AI News HubLIVE
站內改寫2 分鐘閱讀

開源AI令牌分析器 – 發現你的令牌都去了哪裏

Rekon 是一個開源的透明代理,用於 Anthropic 和 OpenAI API,記錄令牌使用情況並在儀表板中顯示。它支持零延遲、不存儲密鑰、會話樹重建和工具級歸因,基於 Cloudflare Workers 構建。

來源Hacker News AI作者: TreDub

Rekon 是一個開源項目,旨在幫助開發者深入瞭解其 AI API 調用的令牌消耗情況。它作為一個透明代理運行在 Anthropic 和 OpenAI API 之前,記錄每個請求的令牌使用數據,並在一個直觀的儀表板中呈現。該項目由 Cloudflare Workers、D1 數據庫、Hono 框架和 React 前端構建,提供了一個完整的解決方案。目前,一個託管的實例運行在 tryrekon.com,方便開發者快速體驗。

Rekon 的核心特性包括零延遲架構——響應直接流式傳輸到客户端,記錄過程在關鍵路徑之外異步進行,因此不會影響 API 調用的速度。此外,該代理從不存儲 API 密鑰,身份驗證頭僅被轉發,確保用户始終使用自己的密鑰或訂閲進行付費。為了應對聊天 API 的無狀態特性,Rekon 通過客户端信號重建完整的會話樹,包括分支,使得開發者能夠追溯每次對話的令牌消耗路徑。工具級歸因功能進一步細化了令牌消耗的可見性,明確指出哪些工具消耗了最多的令牌。

使用 Rekon 非常簡單:首先在儀表板中創建一個系統,獲得一個唯一的代理 URL。然後,將客户端指向該 URL 即可。例如,對於 Anthropic 客户端,設置環境變量 ANTHROPIC_BASE_URL=https://<你的系統ID>/s/;對於 OpenAI 客户端,設置 OPENAI_BASE_URL=https://<你的系統ID>/s//openai/v1。所有請求都會被轉發(包括認證頭),並在返回時記錄使用情況。系統 ID 同時充當接收密鑰,未知 ID 會被拒絕,因此部署永遠不會成為開放中繼。請將 URL 視為機密。

對於想要自行部署的用户,Rekon 提供了詳細的快速入門指南:克隆倉庫、安裝依賴、複製環境變量示例文件並設置 SESSION_SECRET 和至少一個 OAuth 提供商(Google 或 GitHub),然後運行類型生成、數據庫遷移和開發服務器。部署到 Cloudflare Workers 時,需要創建 D1 數據庫,配置 wrangler.jsonc,設置 secrets,運行遠程遷移,然後部署。注意,部署命令不會自動運行遷移。

費用估算基於 shared/pricing.ts 中的標價,未知模型不顯示費用。完整的架構文檔、會話重建細節、令牌歸因方法、端點列表和文件佈局均在 AGENTS.md 中。項目採用 Apache 2.0 許可證,完全開源,商業模型專注於託管部署,而不是對代碼收費。貢獻者需簽署 DCO。