AI「トークンマキシング」の流行が衰退、企業はテクノロジー支出削減へ
AIトークンの使用を最大化する「トークンマキシング」がかつて生産性の証とされたが、コスト増加に見合う効果が得られず、企業はより慎重なAI投資へとシフトしている。大手テック企業幹部やコンサルタントが警鐘を鳴らし、モデルルーティングや中国製オープンソースモデルが注目されている。
シリコンバレーで一時隆盛を極めたAIの「トークンマキシング」—AIトークンを可能な限り多く使用し、生産性の証とする風潮—が急速に衰えている。今年春、OpenAIのサム・アルトマンCEOやNVIDIAのジェンスン・フアンCEOなどテック業界のリーダーたちがトークン消費の最大化を推進し、Meta社内でもトークン使用量を競うコンテストが行われた。しかし、請求書が積み上がるにつれ、無制限なAI使用がコスト増加を招く一方で、生産性向上にはつながらないことが明らかになった。
ムーディーズ・レーティングスのAI分析責任者ヴィンセント・ガスドルフ氏は、「AIで不要なものを作るのは簡単だ」と指摘し、より規律あるアプローチを推奨する報告書を発表した。マイクロソフトのサティア・ナデラCEOは、トークンマキシングは中毒性があると認めつつ、顧客がAIに対してトークン費用と自社データ提供の二重支払いをしていると警告。パランティアのアレックス・カープCEOは、米国企業が「激怒」しているとCNBCで語り、価値を生まないトークンに多額の費用を費やしている現状を批判した。
ベイン・アンド・カンパニーのコンサルタント、ジュー・ワン氏によれば、多くの大企業がAI投資の収益性を精査し始めている。「トークンコストはほぼ隔月で倍増しており、開発者1人あたり月200ドルとして2万人の開発者を抱える企業では、一般管理職が想定していない数字になる」と述べ、よりスマートな「モデルルーティング」の導入を提案する。簡単なクエリは低コストのモデルに自動振り分け、複雑なタスクのみ高性能モデルに任せる手法だ。例えば、メール作成にAnthropicのClaude Opus 4.6のような高額モデルを使う必要はない。
同時に、中国の新興企業が提供するオープンソースモデル（MoonshotのKimiやZhipuのGLMなど）は、米国トップモデルに匹敵する性能を低価格で実現し、トークンマキシング愛好家に新たな選択肢を提供している。しかし、MozillaのCTOラフィ・クリコリアン氏は「業界全体としては、トークンマキシングは愚かなことだと気付きつつある」と述べ、過去にプログラマーのコード行数が生産性指標として使われた後に廃れたのと同じ運命を辿ると予想する。同氏は「1年後には笑い話になっているだろう」と語った。