AIエージェントに「こんにちは」と言う本当のコスト
AIエージェントとの対話に隠れたコストを詳細に分析:トークン価格はわずかですが、待ち時間が生産性と給与に大きな影響を与え、API費用を上回ることがよくあります。14モデルのベンチマークにより、曖昧なプロンプトが過剰なツール呼び出しと遅延を引き起こすことが明らかになりました。
AIエージェントに「こんにちは」と言うとき、トークンコストは0.005ドル未満です。しかし、あなたの時間は無料ではありません。エージェントが考えている間、あなたは待つことになりますが、誰も待ち時間を請求書に載せません。平均的な開発者の給与で計算すると、最も安いモデル(GPT-5.4-mini)での待機コストは0.07ドル、最も遅いモデルでは0.84ドル、さらに5回中3回応答に失敗するモデルもあります。
この計算をしているのは私だけではありません。ある投稿では、GPT-5.4 Proが単純な「こんにちは」に応答するのに80ドルかかったと報告され、「過剰思考のAI」と呼ばれています。これは外れ値ですが、現象は現実的で測定可能です。
私は14のモデルをベンチマークし、待ち時間こそがAIエージェントの真のコストであることを示しました。実験環境は同一の小さなgitリポジトリで、各モデルはターミナルエージェントとして動作します。プロンプトは「こんにちは」、「commit」、「WTF」の3つで、各モデル・プロンプトにつき5回ずつ実行しました。
「こんにちは」の場合、一部のモデルは迅速に応答しました:GPT-5.5とGrokはわずか2回のツール呼び出しでした。しかし、他のモデルは過剰に解釈しました。Sonnetは平均24回のツール呼び出し、49秒を要しました。すべてのファイルを読み、アプリを実行し、要求されていないコード変更をコミットまでしました。Haikuは5回中3回タイムアウトし、Minimaxも同様に3回失敗しました。
対照群として「commit」は明確なタスクであり、すべてのモデルが5回中5回成功し、ツール呼び出しは5~10回でした。実際のタスクは挨拶より簡単です。「WTF」は混乱を引き起こしました:Kimiは平均43回のツール呼び出し、DeepSeekは5回中4回失敗、Gemini 3.1 Proは無限ループでタイムアウト、Fableは完全に無反応でした。
待機コストを計算しましょう。LLMのAPI費用に待機時間(年収12万ドルで計算)を加えます。GPT-5.4-miniの場合、待機コストはトークンコストの20倍です。表全体で、総コストは主に待機時間によって決まります。
教訓:プロンプトがコストの決定要因です。同じ環境で、総コストは0.08ドル(GPT-5.4-miniの「こんにちは」)から1.39ドル(Qwenの「WTF」)まで変動します。曖昧さにコストがかかるのです。トークンはほとんど重要ではありません——1秒あたり0.016ドルの待機コストがAPI費用を圧倒します。
業界全体がモデルをよりスマートにすることに競争しています。私が支払ったのは知能ではなく待ち時間でした。モデルをより速く、より安くすれば、プロンプトの総コストは劇的に下がります。次の10倍の改善はそこにあり、別のベンチマークスコアではありません。
それまでの間、無料ですぐに使える最適化があります:要件を直接伝え、丁寧にならないことです。相手はただの機械です。