エージェントスウォームはローカルAIに最適
ローカルAI開発のトークノミクスは非常に悪く、高性能なコーディングエージェントを実行するには高価なハードウェアが必要で、単一エージェントのスループットは限られています。しかし、エージェントスウォーム(多数のエージェントを並列動作させる手法)により、GPUを効率的に活用でき、API利用と比較してコストを大幅に削減できます。本記事では具体的な数値計算を示し、ローカルハードウェア上でのスウォーム運用がAPIベースの代替手段よりもはるかに経済的であることを実証しています。
近年、ローカルAI開発においてトークノミクス(トークン経済)の悪さが深刻な問題となっています。まともなパフォーマンスでコーディングエージェントを動かすには、モデルとコンテキストをメモリに保持できる十分なVRAMが必要であり、非常にコストがかかります。例えば、Qwen3.6-35B-A3Bを実行するには、理想的にはNVIDIA 5090または2枚の3090が必要です。テストでは、単一ストリームの開発で入力約2000トークン/秒、出力150トークン/秒程度しか達成できませんでした。毎日150トークン/秒で1時間動作させた場合、入力トークンは約720万(80%キャッシュ)、出力トークンは54万にとどまります。
これをOpenRouter上のQwen 3.6のAPIレート(入力100万トークンあたり0.13ドル、出力100万トークンあたり1.00ドル、キャッシュトークンは入力レートの約10分の1)で支払うと、セッションあたり約0.80ドルになります。つまり、5000ドルもするコンピュータが、Chromebook以下の価値しかないということです。
ここでエージェントスウォームが登場します。上記の例は同時実行数1の単一セッションでした。しかし現在では、タスクを多数のエージェントに委任して分散させるスウォーム方式が台頭しています。大手研究所はトークン消費を劇的に増やせるためこの方式を好みますが、同時にローカルLLMマシンに初めて価値をもたらします。
1時間のセッションで平均32のバックグラウンドエージェントが異なるタスクを実行すると仮定します。各エージェントの平均入力速度は20000トークン/秒(うち14000キャッシュ、6000新規読み取り)、出力速度は1000トークン/秒です(2×3090マシンでの典型的な速度)。OpenRouter上のQwen 3.6のAPIレートで計算すると、このようなエージェンティックエンジニアリングには1セッションあたり約7.06ドルかかります。
以下の表は、単一エージェントと32エージェントスウォームの1時間あたりのトークン消費とコストを比較したものです。
- 単一エージェント:入力720万トークン(80%キャッシュ)、出力54万トークン
- スウォーム(約32エージェント):入力7200万トークン(70%キャッシュ)、出力360万トークン
- APIレートでのコスト:単一エージェント0.80ドル、スウォーム7.06ドル
- 同じトークンをSonnet 5で処理した場合:単一エージェント約9.40ドル、スウォーム約89ドル
- ローカルマシンでのコスト(電気代):単一エージェント約0.08ドル、スウォーム約0.11ドル
さらに、1日8時間、1ヶ月稼働させた場合のコスト比較:
- APIレート:単一エージェント約192ドル、スウォーム約1,700ドル
- Sonnet 5:単一エージェント約2,260ドル、スウォーム約21,400ドル
- ローカルマシン(電気代):単一エージェント約19ドル、スウォーム約26ドル
エージェントループやエージェントグラフのパターンが普及するにつれ、ローカルAIの利点はむしろ増大します。なぜなら、ローカルAIが初めてGPUを十分に活用する手段を得たからです。