大型語言模型(LLM)智慧體在結合工具使用後,在長週期任務中表現出色。然而,這些智慧體通常是在固定工具集上進行後訓練的,當需要引入新工具時,它們往往難以有效整合,而從頭重新訓練又通常不可行。針對這一工具集擴充套件問題,最新研究《ToolAnchor: Anchoring Counterfactual Context to Boost Agentic Tool-use Capability》揭示了核心障礙——行為慣性,即智慧體即便獲得新工具,仍傾向於依賴原有熟悉工具和固有推理模式。
研究者證明,在關鍵決策點注入反事實錨定上下文可以有效打破這種慣性,透過激發被抑制的智慧體能力來恢復失敗的軌跡。為了規模化應用這一發現,他們提出ToolAnchor框架,該框架使用教師模型來假設這些反事實上下文,然後透過學生模型展開回滾進行驗證,最後透過智慧體後訓練將成功的干預內化。
廣泛的評估涵蓋了通用AI助手(GAIA)、文本搜尋(BrowseComp)和視覺搜尋(VDR-Bench)等任務,結果顯示ToolAnchor在擴充套件工具集下始終表現出競爭力。這項工作彌合了靜態後訓練與動態適應之間的差距,為可擴充套件的智慧體強化學習開闢了新道路。
ToolAnchor的核心創新在於其反事實錨定機制。不同於傳統方法試圖透過大量新資料重新訓練模型,ToolAnchor僅在關鍵決策點插入精心構造的上下文,引導智慧體嘗試新工具。教師模型基於失敗軌跡和成功案例,生成可能的反事實上下文;學生模型執行這些上下文下的動作,驗證其有效性;最終,透過後訓練將成功模式固化。這一過程無需全模型重新訓練,顯著降低了適應成本。
在實驗部分,ToolAnchor在GAIA的多種任務中,當加入新工具後,成功率相比基線方法提升明顯。在BrowseComp的文本搜尋任務中,面對動態變化的工具組合,ToolAnchor同樣保持了較高的檢索準確率。VDR-Bench視覺搜尋任務的結果進一步證實,該方法能有效應對視覺領域的工具變更。這些結果共同表明,反事實錨定上下文是一種通用且高效的適應性策略。
未來,研究者計劃探索更復雜的反事實生成方式,以及將ToolAnchor應用於多智慧體協作場景,進一步提升智慧體在動態環境中的靈活性和魯棒性。