スタンフォード大学の研究チームは、大規模言語モデル（LLM）ベースのエージェントが繰り返し同じ失敗をする問題に対して、新しいトレーニングフレームワーク「TRACE」を発表した。TRACEは、エージェントの失敗パターンを分析し、不足している能力を特定して、それぞれに特化したトレーニング環境を合成する。
TRACEは4つのステップで構成される。まず、ベースエージェントが対象環境でロールアウトを生成し、分析エージェントが成功と失敗の軌跡を比較する。各軌跡と能力のペアに対して「NA」「PRESENT」「LACKING」のラベルを付け、コントラストギャップがδ=0.20以上、カバレッジがρ=0.10以上の能力のみを保持する。
次に、保持された能力ごとに、1つの能力だけを隔離した合成環境を生成する。タスクインスタンスは乱数シードから手続き的に生成され、検証もアルゴリズムで行われるため、人間のラベルやLLMの判断は不要である。
3番目のステップでは、各能力に対してLoRA（Low-Rank Adaptation）アダプタを訓練する。訓練アルゴリズムはGRPO（Group Relative Policy Optimization）で、同じシードのロールアウトをグループ化し、グループ内で報酬を正規化する。LoRAアダプタはベースモデルの約5.3%のパラメータしか追加しない。
最後に、すべてのアダプタを混合専門家（MoE）モデルに統合し、軽量なトークンレベルのルーティングゲートを訓練する。推論時には各トークンが最適な能力アダプタにルーティングされる。
実験では、Qwen3-30B-A3Bバックボーンでτ²-Benchの全体成功率を15.3ポイント向上させ、SWE-bench Verifiedで15ポイントのPass@1向上を達成。さらに、Qwen3.6-27BではSWE-bench Verifiedで73.2%のPass@1を記録し、GPT-5.2-Codex（72.8%）を上回った。TRACEはサンプル効率も高く、GRPOやGEPAの4分の1未満のロールアウトで同等以上の性能を達成した。
TRACEはMITライセンスでオープンソース化されている。パイプラインはベンチマーク非依存で、マークダウンプロンプトで駆動される。各能力アダプタの訓練にはvLLMサーバーが利用され、デフォルトの閾値はρ=0.10、δ=0.20、8/10のクロスラン一貫性である。
この研究の意義は、エージェントの失敗を一般的なエラーのラベルではなく、訓練可能な能力ギャップとして扱う点にある。各能力を分離して訓練することで、複数タスク間での能力の崩壊を防ぎ、高いサンプル効率を実現している。