Show HN:Torrix —— 自託管的大語言模型可觀測性工具(無需 Postgres 和 Redis)
Torrix 是一款自託管的 LLM 可觀測性工具,支援跟蹤令牌數、成本、延遲、完整提示追蹤、推理令牌捕獲和 PII 脫敏。相容 OpenAI、Anthropic、Google Gemini 等眾多提供商。透過 Docker 一鍵部署,無需 Postgres 或 Redis。提供 Python、Node.js、Go、C#、Java SDK 以及 LangChain 回撥和 HTTP 代理。
Show HN:Torrix —— 自託管的大語言模型可觀測性工具(無需 Postgres 和 Redis)
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。