Show HN: 追踪GenAI成本和端点脆弱性，让应用团队无需操心

LLMIntel是一个专为GenAI应用团队设计的监控仪表板，旨在简化成本追踪和端点健康管理。该工具通过实时数据展示模型的使用情况、定价差异和退役风险，帮助团队在问题爆发前做出调整。

演示数据模拟了一周的真实流量，覆盖三个应用：Checkout Assistant、Support Copilot以及未分配的应用。仪表板显示，当前共运行6个模型，其中meta.llama3-1-405b-instruct-v1:0将在21天后退役，导致212.40美元的风险支出。过去30天的累计支出为1,284.06美元，请求量达41.2万次，总令牌数为9,600万，较前期分别增长7.5%和11%。

在成本方面，仪表板提供了详细的混合费率分析。最便宜的模型是gpt-5-nano-2025-08-07，输入每百万令牌仅0.05美元。通过缓存机制，估计节省了48.74美元，缓存命中量为2,700万令牌。值得注意的是，某些模型（如claude-sonnet-4-5-20250929）的输出长度比基线增加了38%，导致隐性成本上升，建议检查提示词和max_tokens设置。

支出按环境、应用、标签等维度进行了分解。生产环境占总支出的88%（1,131.66美元），其中Checkout Assistant支出最高（742.11美元）。自定义标签分析显示，与“checkout”功能相关的支出占47%，“growth”团队占60%。模型级视图则展示了每个模型的详细数据，包括输入/输出令牌数、缓存使用和混合费率。

最后，优化部分提供了替代模型建议。例如，gpt-5-2025-08-07可替换为成本低80%的GPT-5 mini，而即将退役的llama模型可转向Claude Sonnet 4.5，后者性能更高且上下文长度提升2.5倍。LLMIntel旨在让团队无需手动监控，即可主动管理GenAI成本和稳定性。