Compressor V2：三層壓縮技術將LLM智能體成本降低50%

Edgee AI發佈了Compressor V2，這是其AI網關中用於LLM智能體工作流的關鍵壓縮組件。智能體，特別是編碼智能體，通常運行時間長且上下文密集，單個SWE-bench任務可能消耗30-100次API調用和1-1000萬令牌，導致成本快速上升。壓縮技術不僅緩解經濟壓力，還能改善延遲、擴展上下文窗口有效長度並提升服務器吞吐量。

Compressor V2是在V1基礎上的重大升級。V1僅採用工具結果修剪策略，實現約10%的成本節省。V2引入三個正交策略層：簡潔輸出（Brevity）針對輸出令牌，工具表面縮減（TSR）針對MCP工具目錄，工具結果修剪針對累積的冗長工具輸出。三者可獨立配置，組合使用以匹配不同工作負載。

簡潔輸出策略是編碼任務的核心。它指示模型減少元文本（如計劃敍述），直接執行工具調用和生成補丁。在SWE-bench Lite的6個代表性任務上的測試表明，該策略使中位數成本降低27.5%（約30%），所有6項任務均偏向Edgee，配對符號檢驗p=0.031，具有統計顯著性。自助法95%置信區間為[0.41×, 0.84×]，排除無效應情況。實驗設計嚴謹，包括任務內隨機化、每重複試驗添加隨機數以防止緩存干擾，以及從Claude Code的JSONL日誌直接讀取令牌使用數據。統計方法採用低假設的符號檢驗以應對偏態分佈，自助法估計效應大小，並監控組內變異係數以確保低噪聲。

Compressor V2通過保留前綴緩存來最大化效益。由於簡潔輸出和工具結果修剪僅影響輸出，不改變前綴，因此前綴緩存完全保留，Anthropic的緩存讀取費用降至十分之一。工具表面縮減則優化工具目錄的重複部分，進一步減少輸入令牌。儘管文章僅展示了簡潔輸出的詳細結果，但整體V2堆棧預計通過三層累加實現接近50%的成本降低。Edgee AI計劃發佈更多關於TSR和工具結果修剪的基準數據。該壓縮層是Edgee AI網關的一部分，可通過API密鑰獨立配置，為AI產品提供可持續的經濟模型。