跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

ToolAnchor: 錨定反事實上下文以提升智慧體工具使用能力

文章摘要

本文針對工具增強型大語言模型智慧體在擴充套件工具集時面臨的行為慣性問題,提出透過注入反事實錨定上下文來打破慣性,恢復失敗軌跡。ToolAnchor框架利用教師模型假設反事實上下文,經學生回滾驗證後,透過智慧體後訓練內化成功干預,在GAIA、BrowseComp和VDR-Bench等任務中表現優異,為動態工具適應開闢了新路徑。

來源arXiv AI作者: Weiting Liu, Jieyi Bi, Wanqi Zhou, Jianfeng Feng, Yining Ma, Ai Han, Wenlian Lu
ToolAnchor: 錨定反事實上下文以提升智慧體工具使用能力
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

大型語言模型(LLM)智慧體在結合工具使用後,在長週期任務中表現出色。然而,這些智慧體通常是在固定工具集上進行後訓練的,當需要引入新工具時,它們往往難以有效整合,而從頭重新訓練又通常不可行。針對這一工具集擴充套件問題,最新研究《ToolAnchor: Anchoring Counterfactual Context to Boost Agentic Tool-use Capability》揭示了核心障礙——行為慣性,即智慧體即便獲得新工具,仍傾向於依賴原有熟悉工具和固有推理模式。

研究者證明,在關鍵決策點注入反事實錨定上下文可以有效打破這種慣性,透過激發被抑制的智慧體能力來恢復失敗的軌跡。為了規模化應用這一發現,他們提出ToolAnchor框架,該框架使用教師模型來假設這些反事實上下文,然後透過學生模型展開回滾進行驗證,最後透過智慧體後訓練將成功的干預內化。

廣泛的評估涵蓋了通用AI助手(GAIA)、文本搜尋(BrowseComp)和視覺搜尋(VDR-Bench)等任務,結果顯示ToolAnchor在擴充套件工具集下始終表現出競爭力。這項工作彌合了靜態後訓練與動態適應之間的差距,為可擴充套件的智慧體強化學習開闢了新道路。

ToolAnchor的核心創新在於其反事實錨定機制。不同於傳統方法試圖透過大量新資料重新訓練模型,ToolAnchor僅在關鍵決策點插入精心構造的上下文,引導智慧體嘗試新工具。教師模型基於失敗軌跡和成功案例,生成可能的反事實上下文;學生模型執行這些上下文下的動作,驗證其有效性;最終,透過後訓練將成功模式固化。這一過程無需全模型重新訓練,顯著降低了適應成本。

在實驗部分,ToolAnchor在GAIA的多種任務中,當加入新工具後,成功率相比基線方法提升明顯。在BrowseComp的文本搜尋任務中,面對動態變化的工具組合,ToolAnchor同樣保持了較高的檢索準確率。VDR-Bench視覺搜尋任務的結果進一步證實,該方法能有效應對視覺領域的工具變更。這些結果共同表明,反事實錨定上下文是一種通用且高效的適應性策略。

未來,研究者計劃探索更復雜的反事實生成方式,以及將ToolAnchor應用於多智慧體協作場景,進一步提升智慧體在動態環境中的靈活性和魯棒性。

展開要點與分析

文章情報

工程師進階

要點

  • 識別了工具集擴充套件中的行為慣性障礙,即智慧體傾向使用熟悉工具和推理模式。
  • 提出反事實錨定上下文方法,在關鍵決策點注入以打破慣性並恢復失敗軌跡。
  • ToolAnchor框架透過教師模型生成假設、學生回滾驗證和後訓練內化實現可擴充套件學習。
  • 在三大基準測試中驗證了該方法在擴充套件工具集下的競爭力。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。