AI News HubLIVE
站内改写3 分で読了

より安価なLLMトークンがAI請求額を増加させた(ジェヴォンズのパラドックス)

LLMトークン価格の暴落により、エージェント型ワークロードがチャットプロンプトの50倍のトークンを消費するため、企業のAI支出が急増している。Uberは年間AI予算を4ヶ月で使い果たし、従業員一人あたり月額1500ドルの上限を課した。本記事ではトークン価格の経済性を分析し、変動費を固定インフラに変換して予算管理を改善することを提案する。

ソースHacker News AI著者: AndrewLiu96

Uberは年間AI予算を4ヶ月で使い果たした。無駄遣いではなく、経営陣が奨励した通りの行動をとった結果である。同社はAIの大量使用を祝う社内ランキングを設け、幹部は生産性向上を公に称賛し、そして請求書が届いた。結果として、2026年6月から、各従業員がエージェント型コーディングツールを使用する際に月額1500ドルのハードキャップが課されることになった。この話は一企業の計画不足に関する警告ではない。従量課金のトークン価格設定が大規模なエージェント型ワークロードと出会ったときに何が起こるかの予行演習であり、今まさにあなたの予算に影響を与えている。

数字から始めよう。トークン価格は2025年から2026年にかけて約80%下落した。あなたのエンジニアはその節約分を懐に入れたわけではなく、より多く、より長く、より野心的に実行する許可として使った。10ドルかかっていたタスクが2ドルになったので、チームは1回ではなく5回実行し、それを自動で50回実行するエージェントに引き渡す。

最も強い反論は「単価が80%下がれば、使用量が3倍になっても請求額は変わらない」というものだ。これはチャット形式の単一ターン対話では正しい。しかしエージェントループを導入すると完全に崩壊する。なぜならエージェントはトークン消費を3倍にするのではなく、50倍にするからだ。1回のエージェント型コーディングセッションで、タスクあたり100万~350万トークンを消費する。あるエージェント型コーディングツールを大量に使えば、それだけでUberの月額1500ドルの上限を超えてしまう。

計算は微妙ではない。Claude Opus 4.8を例にとろう。これは上級エンジニアが複雑なリファクタリングタスクに合理的に使用するモデルだ。入力トークンは100万あたり5ドル、出力トークンは100万あたり25ドル。1回のエージェントターン:入力20万トークン×5ドル/100万=1.00ドル。モデルは5万トークンの出力×25ドル/100万=1.25ドル。合計1ターンあたり2.25ドル。これを実際の労働日で掛け算する:1日40ターン、20労働日。すると月額1800ドルになる。1人のエンジニア、1つのツール、1つのモデルで。Uberの1500ドルの上限はこれをカバーできない。

出力トークンが逃げ出せる変数である。主要なモデルすべてで、出力トークンのコストは入力の4~10倍だ。エージェント型ワークロードでは、出力量が逃げる変数となる。開発者の支出はべき乗分布に従う。単一のサブスクリプションツールを使う個人開発者は約100ドル。大量のマルチツールユーザーは約400ドル。実際に生産性向上を得ているパワーエージェントユーザーは1500ドル。マイクロソフトは、一部のエンジニアが月額2000ドルも使っているのを発見し、従業員のAIライセンスをキャンセルしたと報じられている。

この分布はガバナンスの考え方に影響する。AIから最大のビジネス価値を生み出しているエンジニアは、構造的に最大の請求額も生み出している。鈍いツール別の上限は両方を切り捨てる。63%の組織が現在、AIをFinOpsの活発な関心事として挙げており、2024年の31%から増加している(FinOps Foundation調べ)。この倍増はパニックではなく、トークン単位の課金に自然な上限がないこと、そして財務チームがそれを予測するようには作られていないことの認識である。

構造的な代替案は、変動費を固定の計画可能なコストに変換することだ:所有するインフラ、実行するモデル、タクシーメーターではなくデータセンターの項目のような請求書。これがアーキテクチャの変更であり、設定の微調整ではない。スタックを所有することは、第二の問題も同じ決定にまとめる。機密コードや独自データを外部APIに送信できないチーム(規制産業など)は、コスト管理とデータ管理の両方を一つのアーキテクチャ選択から得る:モデルが自社の境界内で動作するとき、支出はプロビジョニングした容量であり、データは決して外に出ない。

正直な反論は、所有インフラの初期コストが高いことだ。それは真実であり、慎重にモデル化すべきである。損益分岐点はチーム規模、モデル構成、そしてエンジニアが実際にそのべき乗曲線のどこに位置するかによる。しかしUberのシナリオ——年間予算を4ヶ月で使い果たし、その後鈍い上限に手を伸ばす——には、特定のインフラ形状がある:メーター制の外部APIで、アーキテクチャ上の上限がない。

FinOps Foundationの数字をもう一度見てみよう。2年前、AI支出をFinOpsの関心事と見なした組織は3分の1未満だった。現在は3分の2近く。残りの3分の1はまだ追いついていないか、生産性の向上がオープンメーターを正当化すると判断している。第二の立場は、適切な規模であればしばらくは擁護できる。ある企業は、従業員の使用上限を課さなかった結果、AIに約5億ドルを費やしたと報告されている。MITの研究によると、エンタープライズ生成AIプロジェクトの約95%が6ヶ月以内に測定可能な財務リターンを生み出せない。不明瞭なリターンに対する無制限の支出は、取締役会が尋ねたときに維持するのが難しい立場である。

この曲線の先を行くチームに有効な動き:特定のエージェント型ワークロードのコストをモデル化し(上の計算を出発点として)、実際に測定可能な生産性リターンとマッピングし、メーター制の外部支出と固定の所有インフラのどちらがその比率をよりよくコントロールできるかを決定する。入力トークンのステッカー価格を財務チームに見せる数字にしてはいけない。