大型語言模型(LLM)智能體在解決複雜任務時,常常需要複用已有的程序性經驗,即技能。傳統的技能庫通常將技能視為扁平的、單一粒度的提示塊,這帶來了一個兩難問題:注入粗粒度技能可能引入無關或誤導性上下文,而重寫整個技能又成本高昂且往往不必要。為應對這一挑戰,來自科研團隊的研究者們提出了SkillLens——一種自適應的多粒度技能複用框架,旨在兼顧複用效率與適應性。
SkillLens的核心創新在於構建了一個分層技能圖,將技能組織為四個層次:策略(policies)、方案(strategies)、過程(procedures)和原語(primitives)。這種四層結構從高層的抽象指導到低層的具體操作,形成了一個漸進式細化的技能體系。當面對一個新任務時,系統首先檢索語義相關的技能種子,然後通過度數校正的隨機遊走在技能圖上擴展這些種子。這一步的關鍵在於,隨機遊走不僅考慮了圖結構信息,還通過度數校正避免了偏向高度數節點的偏差,從而更公平地探索相關技能。隨後,一個訓練好的驗證器對每個訪問到的技能單元進行決策:它可以選擇直接接受(複用完整單元)、分解為更細粒度的子技能、重寫局部不匹配的部分,或者跳過不相關的單元。這種動態選擇機制使得智能體能夠直接複用兼容的子技能,而僅對局部不匹配的組件進行適配,從而大幅降低了不必要的計算開銷。
理論上,研究者證明了SkillLens的混合粒度適配在稀疏不匹配假設下具有次線性成本,這意味着隨着任務複雜度的增加,額外適配成本的增長遠低於線性。同時,演化更新規則(包括技能庫和驗證器的持續優化)能夠單調改進驗證目標,直至達到局部最優。這為系統的長期穩定性提供了保證。
實驗方面,SkillLens在兩個具有挑戰性的基準上進行了評估:MuLocbench(缺陷定位基準)和ALFWorld(具身任務基準)。在MuLocbench上,SkillLens相比強基線方法實現了高達6.31個百分點的Acc@1提升;在ALFWorld上,智能體的成功率從45.00%提升至51.31%,提升幅度超過14%。這些結果證明了SkillLens在降低成本的同時顯著提升了任務性能。
總體而言,SkillLens為LLM智能體的技能複用提供了一種成本高效的新範式。其分層圖結構和動態驗證機制不僅提高了技能複用的精準度,還通過局部適配避免了全局重寫的高昂代價。未來,研究者計劃探索更復雜的圖結構以及更高效的驗證器設計,以進一步提升系統的可擴展性和魯棒性。