Tokenwise：智能LLM代理，揭示您的超額支出

Tokenwise是一款今日在Product Hunt上發佈的智能LLM代理，專為創客和小團隊設計。其核心功能是幫助用户識別並削減大語言模型API調用中的超額支出。該工具由一位名為Theo的開發者創建，他本人曾因多款SaaS產品依賴LLM而面臨不斷上漲的API賬單，卻無法追蹤具體原因。

Theo發現，現有工具要麼處於維護模式，要麼需要複雜的可觀測性設置，或者僅支持特定框架。為此，他開發了Tokenwise：只需添加一行代碼，或讓編碼代理指向它，即可看到每次調用的成本、延遲、令牌消耗以及浪費情況。更智能的是，Tokenwise會直接給出優化建議，例如切換更便宜的模型、啓用緩存或精簡冗餘的提示詞。所有優化建議都會先通過用户自定義的質量標準進行驗證，確保不降低輸出質量。

Tokenwise的核心理念是“答案比儀表板更重要”。用户不需要另一個複雜的數據面板，而是需要直接知道每月浪費的842美元具體來自哪裏，以及如何一鍵修復。該工具基於真實流量計算節省金額，並實時提供可操作的修復方案。目前Tokenwise提供免費選項，並支持Analytics、開發者工具和人工智能等場景。對於個人開發者和小團隊來説，這是一個輕量級、高效的LLM成本管理解決方案。