斯坦福大學的研究團隊近日發佈了TRACE系統，這是一種旨在解決大語言模型智能體重複失敗問題的新型訓練框架。TRACE的核心思想是將智能體的失敗模式轉化為有針對性的訓練信號，通過四個步驟實現能力導向的強化學習。
首先，TRACE通過對比分析智能體在目標環境中的成功和失敗軌跡，識別出缺失的關鍵能力。這些能力必須滿足對比度閾值（Δ≥0.20）和覆蓋率閾值（ρ≥0.10），以確保其與失敗強相關。實驗發現，在τ²-Bench上，結構化的數據推理、多步驟任務完成、前提條件驗證和工具調用精度是四個最常見的缺失能力。
其次，TRACE為每個識別出的能力合成一個獨立的訓練環境。這些環境通過程序化生成任務實例，並內置自動驗證機制，從而無需人工標註或大模型評判即可提供密集的獎勵信號。每個環境專注於單一能力，同時保留目標環境的工具模式和格式。
第三步，TRACE使用GRPO算法為每個能力訓練一個LoRA適配器。GRPO通過將同一種子的軌跡分組，並在組內標準化獎勵，從而隔離策略本身的貢獻。每個LoRA適配器僅增加約5.3%的可訓練參數，基礎模型保持凍結。
最後，TRACE將所有適配器組合成一個混合專家（MoE）模型，並訓練輕量級的令牌級路由門控。在推理時，每個令牌被路由到最相關的能力適配器，使模型能夠在軌跡中動態切換專家。
在實驗結果方面，TRACE在Qwen3-30B-A3B和Qwen3.6-27B兩個基礎模型上進行了測試。在τ²-Bench上，TRACE分別提升了15.3和9.1個百分點；在SWE-bench Verified上，Qwen3.6-27B達到了73.2%的Pass@1，超越了GPT-5.2-Codex（72.8%）等閉源模型。此外，TRACE在樣本效率上表現優異，僅使用不到四分之一的任務軌跡就達到了優於GRPO和GEPA的效果。
TRACE的代碼已開源，採用MIT許可證。其流水線是基準無關的，通過Markdown提示驅動。對於每個能力適配器，訓練過程利用vLLM服務器提供高效的推理服務。默認的超參數包括覆蓋率閾值0.10、對比度閾值0.20以及8/10的跨運行一致性要求。
這項研究的意義在於，它提供了一種系統性的方法，將智能體的失敗轉化為可操作的訓練信號，而不僅僅依賴通用錯誤標籤。通過分離每個能力並單獨訓練，TRACE避免了模型在多個任務間發生能力崩潰，同時保持了高樣本效率。