Tokencompress：一個亞2毫秒的Go CLI和MCP sidecar，用於修剪AI代理的工具上下文

Tokencompress 是一個輕量級工具，旨在解決 AI 代理在執行工具時面臨的大量原始數據問題。它採用 Go 編寫，零外部依賴，運行速度極快，官方宣稱其延遲低於 2 毫秒（甚至亞毫秒級）。該工具可作為 CLI 管道過濾器或 MCP sidecar 使用，在數據進入模型上下文窗口之前進行壓縮處理。

AI 代理在調用 API、執行終端命令或抓取網頁時，常常收到成千上萬行的未解析數據。例如，包含 1000 個元素的 JSON 數組可能消耗超過 15,000 個令牌；冗長的堆棧跟蹤中充斥着框架噪音和 node_modules 路徑；原始 HTML 中的 CSS、腳本和導航菜單也大量佔用上下文。這些問題會導致 API 成本上升、響應變慢，甚至出現上下文腐爛——代理在任務中產生幻覺或重複調用工具。

Tokencompress 提供確定性過濾：JSON 模式保留代表性示例，並用元數據替換冗餘數組項；日誌模式剝離內部框架路徑，只保留根本錯誤信息、用户文件路徑和執行行；HTML 模式刪除腳本、樣式和導航元素，轉換為易讀的文本或 Markdown。此外，它還會按會話對工具輸出進行哈希，如果代理連續兩次收到重複的工具結果，會在輸出前添加警告頭。

安裝和使用十分簡單：通過 make build 完成編譯，然後即可通過管道使用。例如，壓縮大型 JSON 響應可運行 cat large_response.json | tokencompress --mode json；處理堆棧跟蹤日誌可添加 --log-internal-marker 參數；清理 HTML 可直接使用 curl 管道。MCP 集成同樣方便，只需在 Claude Desktop 配置中添加一個 mcpServers 條目。

作者提供的基準測試顯示，在 500 項 JSON 數組上可將約 12,500 個令牌壓縮至約 850 個（減少 93.2%）；Python 堆棧跟蹤從約 3,200 降至約 410（減少 87.1%）；HTML 網頁抓取從約 18,000 降至約 2,100（減少 88.3%）。這些壓縮完全基於規則，不需要調用第二個 LLM，因此額外延遲極低。

該項目以 MIT 許可證發佈，可自由用於開源和商業代理環境。如需定製集成或專用解析器，作者提供了付費諮詢和自定義開發服務。