Compressor V2：3つの圧縮レイヤーでLLMエージェントのコストを50%削減
Edgee AIがCompressor V2を発表。3つの直交圧縮戦略（簡潔出力、ツール表面削減、ツール結果トリミング）により、LLMコーディングエージェントのコストを大幅に削減します。SWE-bench Liteベンチマークでは、簡潔出力戦略だけで中央値約30%のコスト削減を達成。記事では圧縮の必要性、V1からV2への進化、実験方法と統計的有意性の検証について詳述し、コスト、レイテンシ、コンテキストウィンドウ、スループットにおける総合的な利点を示しています。
Edgee AIは、LLMエージェント向け圧縮レイヤーであるCompressor V2を発表しました。コーディングエージェントは長時間稼働しコンテキストが肥大化する傾向があり、1つのSWE-benchタスクで30～100回のAPI呼び出し、100万～1000万トークンを消費することも珍しくありません。圧縮は経済的負担の軽減だけでなく、レイテンシの改善、コンテキストウィンドウの有効範囲拡大、サーバースループットの向上にも寄与します。
Compressor V2は、以前のV1（ツール結果トリミングのみで約10%のコスト削減）から大幅に進化しました。3つの直交戦略を採用：簡潔出力（Brevity）は出力トークンを削減、ツール表面削減（TSR）はMCPツールカタログの重複部分を削減、ツール結果トリミングは会話中に蓄積される冗長なツール出力を削減します。これらは独立して構成可能で、ワークロードに応じて組み合わせることができます。
簡潔出力戦略はコーディングタスクにおいて特に効果的です。モデルが計画の解説などのメタテキストを生成するのを抑制し、ツール呼び出しとパッチ生成に集中させます。SWE-bench Liteの6タスクでのテストでは、中央値コストが27.5%削減（約30%）、全6タスクでEdgeeが優位（符号検定p=0.031）という統計的に有意な結果が得られました。ブートストラップ95%信頼区間は[0.41×, 0.84×]であり、無効効果を含みません。実験設計は厳密で、タスク内で順序をランダム化し、各試行にランダムナンスを付与してキャッシュ干渉を防止、Claude CodeのJSONLログから直接トークン使用量を取得しました。統計手法は符号検定（分布仮定が少ない）、ブートストラップ法（効果量推定）、変動係数（ノイズ監視）を用いています。
Compressor V2はプレフィックスキャッシュを保持するため、簡潔出力とツール結果トリミングは出力のみに影響し、プレフィックスは変更しません。その結果、Anthropicのキャッシュ読み取りコストは十分の一に維持されます。ツール表面削減はツールカタログの重複を削減し、入力トークンをさらに節約します。本記事では簡潔出力の詳細な結果のみが示されていますが、3つの戦略を組み合わせることで全体で約50%のコスト削減が期待されます。Edgee AIはTSRとツール結果トリミングのベンチマークも今後公開予定です。この圧縮レイヤーはEdgee AIゲートウェイの一部であり、APIキーごとに独立して構成可能で、AI製品の持続可能な経済モデルを提供します。