跳到主要內容
AI News HubLIVE
更多
僅摘要

Show HN:Torrix —— 自託管的大語言模型可觀測性工具(無需 Postgres 和 Redis)

Torrix 是一款自託管的 LLM 可觀測性工具,支援跟蹤令牌數、成本、延遲、完整提示追蹤、推理令牌捕獲和 PII 脫敏。相容 OpenAI、Anthropic、Google Gemini 等眾多提供商。透過 Docker 一鍵部署,無需 Postgres 或 Redis。提供 Python、Node.js、Go、C#、Java SDK 以及 LangChain 回撥和 HTTP 代理。

來源Hacker News AI作者: AdarshRao23
Show HN:Torrix —— 自託管的大語言模型可觀測性工具(無需 Postgres 和 Redis)
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

投資人進階

要點

  • 自託管 LLM 可觀測性,無需 Postgres 或 Redis。
  • 跟蹤令牌數、成本、延遲、提示追蹤、推理令牌和 PII 脫敏。
  • 支援多種 LLM 提供商,提供多語言 SDK 和 HTTP 代理。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。

Show HN:Torrix —— 自託管的大語言模型可觀測性工具(無需 Postgres 和 Redis) | AI News Hub