本文にスキップ
AI News HubLIVE
その他
要約のみ

Cloudflare AI Gatewayが支出制限をサポート

Cloudflare AI Gatewayに支出制限機能が追加され、モデル、プロバイダー、カスタムメタデータごとに予算を設定できます。累積支出が制限に達すると、リクエストはブロックされるか、安価なモデルにフォールバックします。

ソースHacker News AI著者: tjek
Cloudflare AI Gatewayが支出制限をサポート
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 支出制限は実際のドルコストをリアルタイムで追跡し、超過すると429レスポンスでリクエストをブロックします。
  • モデル、プロバイダー、カスタムメタデータのディメンションで制限をスコープできます。
  • ゲートウェイごとに最大20ルール設定可能;プライマリモデルの予算超過時に安価なモデルへのフォールバックをサポート。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。