企業がAI支出削減に躍起、トークン浪費が深刻化

404 Mediaが入手した内部音声によると、コンサル大手アクセンチュアは、非技術系社員がPDFをプレゼンテーションスライドに変換するような些細なタスクにAIトークン予算を浪費するのを食い止めようとしている。音声でアクセンチュアのエージェントAI戦略責任者Justice Kwakは、社内データがエンジニアではなく非エンジニアによるトークン消費の増加を示していると述べた。この傾向は、AIの無制限な成長の波が終わりを迎えたことを示している。

GitHubなどのAIプロバイダーが定額課金からトークン課金に移行した結果、多くの企業でトークンが急速に枯渇している。Uberは最近、Claude CodeやCursorなどのAIツールの利用を制限した。同社は以前、従業員にAIの積極活用を促していたが、CTOによるとAI予算を4ヶ月で使い果たしたという。ウォルマートも高需要を受けてAIツールの利用を制限している。

社内会議でKwakとプロダクトマネジメント上級マネージャーのEduardo Salamanca de Diegoは「トークン運用」の概念を紹介した。クライアントグループ責任者のStuart Hendersonは、KwakがPDFを画像に変換し、さらにマークダウンファイルに変換していないことを望むと冗談めかして述べ、「それが大きなトークン消費源だ」と指摘した。Kwakはデータがそれを裏付けると認めた。

Kwakは、企業が単純なチャットボットからエージェントワークフローや自動化へ移行するにつれ、AIコスト構造が重要になり、CFOやCIOがAI投資の価値に疑問を呈し始めていると指摘。AIに積極的な企業は皆この問題に直面するだろうと述べ、トークン支出は指数関数的に増加していると警告した。

Kwakは、アクセンチュアが企業にAI導入を急がせた後、アクセンチュア自身とクライアントの大部分でAIが規模に達したと説明。しかしその規模は、クライアントに対して「トークン経済学を真剣に考える」新たな機会をもたらす。AI支出全体の請求額は可視化されているが、トークンレベルでの支出をプロジェクトの価値成果に帰属させることはできないと述べた。さらに、予算設定や階層化などの管理策は「遅すぎる」と付け加えた。

フィナンシャル・タイムズがアクセンチュアのAI導入強制方針を報じた後、アクセンチュアのスポークスパーソンはCNBCに対し、「当社の戦略はクライアントにとって第一の変革パートナーとなることであり、最新のツールと技術を採用してクライアントに最も効果的にサービスを提供する必要がある」と述べた。Kwakは、アクセンチュアが近く「Token IQ」という製品を正式に発売する計画であると述べている。404 Mediaは以前、一部のスタートアップが人件費ではなくAIへの多額支出を誇示していると報じた。ウォルマートも高い需要を受けてAIツールの利用を制限している。