AI News HubLIVE
サイト内リライト2 分で読了

Show HN: QuantumReckon – クラウドとAIの実際のコスト(トークンを含む)を把握する

QuantumReckonは、クラウドとAIの支出、特に従来のFinOpsでは見落とされがちなAIトークンコストを可視化する新しいツールです。複数のクラウドおよびAIプロバイダーに接続し、毎日自動スイープを実行して異常や無駄を検出し、封印された領収書付きの監査可能な証拠を提供します。このツールは創業者自身の環境で検証され、大幅なコスト削減を実現しています。

ソースHacker News AI著者: ssgonella

QuantumReckonは、クラウドと人工知能(AI)の支出、特によく見落とされがちなAIトークン使用コストを完全に透明化する新しいツールです。従来のクラウドコスト管理ツール(FinOps)は通常、AWS、Azure、GCPなどのプロバイダーのインフラストラクチャ請求書に焦点を当てています。しかし、AIの台頭により、企業はOpenAIやAnthropicなどのプロバイダーのAPIをますます利用しており、そのコストはトークン消費に基づいていますが、この指標は標準的なクラウド請求書には表示されません。QuantumReckonは、AIプロバイダーのAPIとクラウドアカウントに直接接続し、リソース使用量、トークンフロー、キーの衛生状態をスキャンすることで、この盲点を埋めることを目的としています。

この製品は、毎日実行されるスケジュールされたスイープを通じて継続的な監視を提供します。新しいリソースの出現、トークン量の急増、セキュリティリスクをもたらす休眠APIキーなどのドリフトや異常を検出します。ユーザーは予算制限を設定し、違反や新たな無駄が検出されたときにSlackや他のウェブフックを介してアラートを受け取ることができます。さらに、QuantumReckonは実際のスイープデータに基づいた正直な予測を提供し、さまざまなシナリオでの将来の支出を予測します。注目すべき機能は、クラウドクレジットやスポンサーシップで一時的にカバーされている環境を価格設定し、これらの特典が期限切れになったときの「クレジットの崖」を明らかにすることです。

QuantumReckonは、説明可能で監査可能な結果を重視しています。すべての発見には、分類、信頼度、およびその背後にある証拠が含まれており、SHA-256ハッシュとハッシュチェーンを使用して改ざん防止の領収書に封印されています。これにより、節約見積もりと是正措置が監査で検証可能になります。このツールは、創業者自身のマルチクラウド、マルチプロバイダー環境で検証され、大幅な節約を特定しました。単一のプロンプトキャッシュ修正で月額1,000ドル以上の節約、87%のトークンが最も高価なモデルで実行され、2つのプロバイダーにわたる7つの休眠APIキーが発見されました。また、トラフィックがゼロの2つのモデルデプロイメントが削除可能な無駄として特定されました。

開始は簡単です。読み取り専用のロールまたはAPIキーを接続し、スイープが段階的に実行されるのを監視し、ツリーマップとトレンドビューで結果を確認します。ユーザーは、生成された修正を自分の条件で実行でき、すべてのアクションに対して完全な領収書が提供されます。QuantumReckonは、実際にアカウントから流出するお金のみをカウントし、測定された入力/出力トークン量に基づいてモデルごとのレートでAI実行レートを価格設定する、正確なコスト像を約束します。決してモデル化された推測ではありません。