大規模言語モデル(LLM)エージェントはツールを活用することで長期的なタスクで優れた性能を発揮するが、通常は固定されたツールセットで事後訓練されている。新しいツールが必要な場合、エージェントはそれらを効果的に組み込むのに苦労し、ゼロからの再訓練は現実的でないことが多い。このツールセット拡張問題における核心的な障害として、本研究「ToolAnchor: Anchoring Counterfactual Context to Boost Agentic Tool-use Capability」は「行動慣性」、すなわち新しいツールにアクセスできるにもかかわらず、既存のツールや推論パターンに固執する傾向を特定した。
研究者らは、重要な意思決定ポイントに反実仮想的なアンカーコンテキストを注入することで、この慣性を打破し、抑制されていたエージェント能力を引き出して失敗した軌跡を回復できることを実証した。この洞察をスケールさせるために、ToolAnchorフレームワークを提案する。これは教師モデルを用いて反実仮想コンテキストを仮説し、学生ロールアウトによって検証し、成功した介入をエージェント事後訓練を通じて内面化する。
広範な評価は、汎用AIアシスタント(GAIA)、テキスト検索(BrowseComp)、視覚検索(VDR-Bench)タスクにわたって行われ、ToolAnchorが拡張ツールセット下で一貫して競争力のある性能を示すことを確認した。この研究は、静的な事後訓練と動的な適応の間のギャップを埋め、スケーラブルなエージェント強化学習の新たな道を開く。
ToolAnchorの主な革新は、その反実仮想アンカリング機構にある。従来の手法が大量の新しいデータでモデルを再訓練しようとするのに対し、ToolAnchorは重要な決定点にのみ慎重に構築されたコンテキストを挿入し、エージェントに新しいツールを試させる。教師モデルは失敗軌跡と成功事例に基づいて可能な反実仮想コンテキストを生成し、学生モデルはそれらのコンテキスト下でアクションを実行して有効性を検証し、最終的に事後訓練によって成功パターンを固定化する。このプロセスはモデル全体の再訓練を必要とせず、適応コストを大幅に削減する。
実験では、GAIAの多様なタスクにおいて、新しいツールが追加されたときに、ToolAnchorはベースライン手法と比較して成功率が大幅に向上した。BrowseCompのテキスト検索タスクでは、動的に変化するツール組み合わせに対しても高い検索精度を維持した。VDR-Benchの視覚検索タスクの結果は、視覚領域のツール変更にもこの手法が効果的であることをさらに確認している。これらの結果は、反実仮想アンカーコンテキストが汎用的かつ効率的な適応戦略であることを示している。
将来、研究者はより複雑な反実仮想生成方法を探求し、ToolAnchorをマルチエージェント協調シナリオに適用することで、動的環境におけるエージェントの柔軟性とロバスト性をさらに向上させることを計画している。