CORVUS:基於底層同步的LLM編碼智能體上下文優化與縮減
提出CORVUS,一種新型軌跡架構,通過解耦文件讀取操作與觀察結果,維護同步文件註冊表,顯著減少LLM編碼智能體的冗餘令牌和推理循環,同時保持通過率。
大型語言模型(LLM)編碼智能體在執行多步決策任務時,會構建一個包含推理過程、工具調用和結果的軌跡。目前主流的僅追加軌跡架構,將每次文件讀取操作及其產生的快照永久固定在時間序列中。這種設計存在一個嚴重缺陷:當智能體自身編輯或人類並行修改代碼後,之前捕獲的文件快照會迅速變得陳舊,導致後續推理出現偏差,並觸發智能體反覆重新讀取同一文件。每一次重新讀取都會在軌跡中追加另一個副本,使得軌跡迅速膨脹,不僅消耗了大量令牌,還增加了推理延遲。
為了解決這一問題,研究團隊提出了CORVUS(Context Optimization and Reduction Via Underlying Synchronization),這是一種新型的軌跡架構。其核心思想是維護一個同步的文件註冊表,記錄所有相關文件的最新狀態,並在每個推理週期僅注入當前實際的文件內容,而非歷史快照。通過這種方式,文件讀取操作與觀察結果被完全解耦,軌跡中不再包含冗餘的文件副本和過時的快照,從而大幅減輕了軌跡的負擔。同時,軌跡始終與代碼庫的實時狀態保持一致,從根本上消除了因快照過期而引起的推理錯誤。
研究者在兩個權威基準測試SWE-POLYBENCH_VERIFIED和SWE-BENCH PRO上,使用四種不同的LLM對CORVUS進行了系統評估。實驗結果表明,CORVUS能夠將每個任務的平均輸入令牌減少9%到50%,最終提示的長度縮短15%到32%,推理週期最多減少37%,同時保持與基線相當的通過率。這些數據表明,CORVUS在不犧牲任務完成質量的前提下,顯著提升了編碼智能體的運行效率,降低了計算資源消耗。
這項研究對LLM編碼智能體的實際應用具有重要意義。通過減少冗餘令牌和推理循環,CORVUS可以降低API調用成本、加快任務執行速度,並支持更復雜的多步驟代碼編輯場景。未來,該架構有望集成到主流開發工具和Agent框架中,進一步推動AI輔助編程的發展。