ウォルマートのAIワークフローが収支の現実と向き合う

ウォルマートは、内部AIアシスタント「Code Puppy」の従業員による使用を制限し始めた。これは、同ツールを支えるLLMへの需要が予想を上回り、コストが高騰したためである。従来、ウォルマートは従業員にCode Puppyの無制限使用を奨励していたが、現在は固定数のAIトークンを割り当て、使用量を制限している。Code Puppyは、スプレッドシート分析、プレゼンテーション作成、その他の自動化可能な業務を支援するものとして宣伝されていた。

この内部ポリシーの変更はコスト管理策であり、LLMが定額制から従量課金制へと移行しつつあることが背景にある。ウォルマートには約210万人の従業員がいるため、一人当たりのクエリやタスク要求がわずかでも、大きなコストが発生する。同社は、価値を生み出せる場合にのみAIを使用し、タスクに適したAIツールを選択するよう従業員に指導している。また、従業員は会社が支払う他のAIプラットフォームも利用できると報じられている。

ウォルマートはこれまでAIツールの利用を拡大し、従業員にAIの使い方のトレーニングを提供し、実験と成功事例の採用を促進してきた。しかし現在、各インタラクションのコストが直接請求されるようになり、生産性向上とコストのバランスを取るのに苦慮している。問題の一部は、AIワークフローの生産性測定方法に起因する可能性がある。以前は、AIツールの使用回数と複雑さを生産性の指標としていたため、多くの従業員がKPIをゲーム化する「トークンマキシング」と呼ばれる現象を引き起こした。今年4月には、Sequoia Capitalのパートナーが「トークンマキシングすべき」と述べ、企業内でAIのリーダーボードが出現し、AIソフトウェアを最も活用している従業員を称賛するようになった。

このようなパフォーマンス重視の行動は、AIタスクの数と複雑さ、および選択されたモデルに応じてコストを増大させる。再帰的なアクションを実行する大規模モデル（「思考モデル」）は、入力を内省的に処理するためにより多くのトークンを使用し、ユーザーの請求額が増加する。ウォルマートが従業員にモデルを慎重に選択するよう促すのは、スプレッドシート分析やプレゼンテーション作成などの比較的単純なタスクに高価な最先端モデルを使用することを制限するためである。

マルチエージェントAI作業も、雇用主に予想外のコストをもたらす可能性がある。従業員が所望の成果を得るために複数のエージェントで反復ループを開始すると、最適でない結果（および必要な修正と再提出）の実際のコストが現金で測定可能になる。

すべてのAIプロバイダーが完全に従量課金制に移行したわけではないが、AnthropicとOpenAIはすでに上位プランの請求モデルを変更している。マイクロソフトは6月1日からGitHub Copilotの課金を開始し、これは急速にモデルプロバイダーの新たな財務標準となりつつある。Uberは最近、2026年のAI予算を今年最初の4ヶ月で使い果たしたと発表し、課金ポリシーの変更がエンドユーザーに影響を与えていることを示している。

従業員ごとのトークン使用上限を設定することで、ウォルマートは継続的なコストを抑制し、より思慮深いAIの使用を促進し、AIへの投資収益率の指標を確立しようとしている。