斯坦福大學的研究團隊近日釋出了TRACE系統,這是一種旨在解決大語言模型智慧體重複失敗問題的新型訓練框架。TRACE的核心思想是將智慧體的失敗模式轉化為有針對性的訓練訊號,透過四個步驟實現能力導向的強化學習。
首先,TRACE透過對比分析智慧體在目標環境中的成功和失敗軌跡,識別出缺失的關鍵能力。這些能力必須滿足對比度閾值(Δ≥0.20)和覆蓋率閾值(ρ≥0.10),以確保其與失敗強相關。實驗發現,在τ²-Bench上,結構化的資料推理、多步驟任務完成、前提條件驗證和工具呼叫精度是四個最常見的缺失能力。
其次,TRACE為每個識別出的能力合成一個獨立的訓練環境。這些環境透過程式化生成任務例項,並內建自動驗證機制,從而無需人工標註或大模型評判即可提供密集的獎勵訊號。每個環境專注於單一能力,同時保留目標環境的工具模式和格式。
第三步,TRACE使用GRPO演算法為每個能力訓練一個LoRA介面卡。GRPO透過將同一種子的軌跡分組,並在組內標準化獎勵,從而隔離策略本身的貢獻。每個LoRA介面卡僅增加約5.3%的可訓練引數,基礎模型保持凍結。
最後,TRACE將所有介面卡組合成一個混合專家(MoE)模型,並訓練輕量級的令牌級路由門控。在推理時,每個令牌被路由到最相關的能力介面卡,使模型能夠在軌跡中動態切換專家。
在實驗結果方面,TRACE在Qwen3-30B-A3B和Qwen3.6-27B兩個基礎模型上進行了測試。在τ²-Bench上,TRACE分別提升了15.3和9.1個百分點;在SWE-bench Verified上,Qwen3.6-27B達到了73.2%的Pass@1,超越了GPT-5.2-Codex(72.8%)等閉源模型。此外,TRACE在樣本效率上表現優異,僅使用不到四分之一的任務軌跡就達到了優於GRPO和GEPA的效果。
TRACE的程式碼已開源,採用MIT許可證。其流水線是基準無關的,透過Markdown提示驅動。對於每個能力介面卡,訓練過程利用vLLM伺服器提供高效的推理服務。預設的超引數包括覆蓋率閾值0.10、對比度閾值0.20以及8/10的跨執行一致性要求。
這項研究的意義在於,它提供了一種系統性的方法,將智慧體的失敗轉化為可操作的訓練訊號,而不僅僅依賴通用錯誤標籤。透過分離每個能力並單獨訓練,TRACE避免了模型在多個任務間發生能力崩潰,同時保持了高樣本效率。