本文にスキップ
AI News HubLIVE
その他
要約のみ

99%圧縮、請求書には1%:10億トークンを監査して理由を探る

著者は、モデルが安くなるにつれてトークン消費が増加し、逆に請求額が上がるパラドックスに直面した。既存の圧縮手法を調査したが、ログやSQLなどエージェント特有のデータには効果が薄かった。そこで、トークンの使用を正確にマッピング・追跡することで99.9%の圧縮率を達成する独自アーキテクチャを開発したが、実際の節約は使用パターンに依存する。

ソースHacker News AI著者: josuramos
99%圧縮、請求書には1%:10億トークンを監査して理由を探る
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア中級

要点

  • モデルが安くなると使用量が増え、請求額が上昇する。
  • 既存の圧縮手法はエージェント特有のデータ(ログ、SQL)に効果が薄い。
  • 著者は99.9%の圧縮率を達成する独自アーキテクチャを構築したが、節約額は使用状況に依存する。
  • 効果的な圧縮には入力と出力の両方のトークンを削減する必要がある。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。

99%圧縮、請求書には1%:10億トークンを監査して理由を探る | AI News Hub