AIコストの高騰に企業が疑問符、トークン乱費が支出増加を招く

CBCニュースの報道によると、かつて社内AI利用を積極的に推進していたテクノロジー企業が、コスト高騰を受けて支出を抑制している。先月、Uberは2026年のAI予算を年初4ヶ月で使い果たしたことを認め、最高執行責任者は内部AIコストの正当化が「難しくなっている」と述べた。OpenAIのSam Altman CEOも今月初め、AIコストが顧客にとって「大きな問題」になっていると指摘した。この問題は大企業だけでなく、カナダのスタートアップ企業のリーダーたちも同様の懸念を表明している。

コスト急増の主因は「トークン」（AIがプロンプトを処理し出力を生成するためのデータ単位）の使用量にある。「トークンマクシング」（可能な限り多くのトークンを消費する現象）の台頭により、企業のトークン消費量は急増した。例えば、MetaやAmazonの従業員はかつて内部リーダーボードでトークン使用量を競い、それを生産性の指標とみなしていた。しかし、コーディングや連鎖思考などの複雑な推論タスクに必要なトークン量は、単純なクエリの500倍から1000倍にも及ぶ。

これに対し、企業は「トークノミクス」、すなわちトークンコストを戦略的に管理する手法に注目している。コンサルティング会社CEOのNestor Maslej氏は、各部門でのAIの実効性とコストを評価する「マイクロ実験」を推奨する。人事、法務、エンジニアリングなど部門ごとにAIの活用方法は異なり、画一的な解決策はないと述べている。

同時に、AI業界は転機を迎えている。トークン消費が持続可能でなければ、AI企業は想定した収益を上げられない可能性がある。Anthropicのエンタープライズプランは定額料金とトークン使用量課金を組み合わせ、Microsoft傘下のGitHub Copilotも6月初めに価格体系を変更した。また、ウォール・ストリート・ジャーナルによると、OpenAIはトークン単価の引き下げを検討しており、中国の新興企業DeepSeekは主要モデルを75％値下げした。

Maslej氏は「これはAI技術が能力面でも価格設定面でもまだ初期段階にある証拠だ」と述べ、「企業は依然として一定のコストを支払う用意がある」と付け加えた。しかし、革新とコストのバランスをどう取るかが今後のAI活用の鍵となる。