跳到主要内容
AI News HubLIVE
更多
仅摘要

基于Rails的代理工具:强制执行OpenAI使用硬性美元上限

ai_budget_proxy 是一个无状态的HTTP代理,位于应用程序和OpenAI之间,通过硬性支出上限防止意外的高额账单。它不存储OpenAI密钥,仅通过每次请求转发密钥。该工具提供了令牌管理、速率限制和安全的通信方式,目前仅支持非流式请求,未来计划增加流式支持和仪表盘功能。

来源Hacker News AI作者: nseglins
基于Rails的代理工具:强制执行OpenAI使用硬性美元上限
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明

本文仅提供摘要

根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。

展开要点与分析

文章情报

工程师入门

要点

  • 无状态HTTP代理,强制执行OpenAI开支硬上限,达到上限后请求停止。
  • OpenAI密钥不存储,仅在请求期间在内存中转发,不写入数据库或日志。
  • 提供令牌创建与查询接口,支持按邮箱查看各令牌的限额、用量及剩余金额。
  • 当前仅支持非流式请求,计划增加流式支持、软上限警报和React仪表盘。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。