大型語言模型(LLM)智慧體在解決複雜任務時,常常需要複用已有的程式性經驗,即技能。傳統的技能庫通常將技能視為扁平的、單一粒度的提示塊,這帶來了一個兩難問題:注入粗粒度技能可能引入無關或誤導性上下文,而重寫整個技能又成本高昂且往往不必要。為應對這一挑戰,來自科研團隊的研究者們提出了SkillLens——一種自適應的多粒度技能複用框架,旨在兼顧複用效率與適應性。
SkillLens的核心創新在於構建了一個分層技能圖,將技能組織為四個層次:策略(policies)、方案(strategies)、過程(procedures)和原語(primitives)。這種四層結構從高層的抽象指導到低層的具體操作,形成了一個漸進式細化的技能體系。當面對一個新任務時,系統首先檢索語義相關的技能種子,然後透過度數校正的隨機遊走在技能圖上擴充套件這些種子。這一步的關鍵在於,隨機遊走不僅考慮了圖結構資訊,還透過度數校正避免了偏向高度數節點的偏差,從而更公平地探索相關技能。隨後,一個訓練好的驗證器對每個訪問到的技能單元進行決策:它可以選擇直接接受(複用完整單元)、分解為更細粒度的子技能、重寫區域性不匹配的部分,或者跳過不相關的單元。這種動態選擇機制使得智慧體能夠直接複用相容的子技能,而僅對區域性不匹配的元件進行適配,從而大幅降低了不必要的計算開銷。
理論上,研究者證明了SkillLens的混合粒度適配在稀疏不匹配假設下具有次線性成本,這意味著隨著任務複雜度的增加,額外適配成本的增長遠低於線性。同時,演化更新規則(包括技能庫和驗證器的持續最佳化)能夠單調改進驗證目標,直至達到區域性最優。這為系統的長期穩定性提供了保證。
實驗方面,SkillLens在兩個具有挑戰性的基準上進行了評估:MuLocbench(缺陷定位基準)和ALFWorld(具身任務基準)。在MuLocbench上,SkillLens相比強基線方法實現了高達6.31個百分點的Acc@1提升;在ALFWorld上,智慧體的成功率從45.00%提升至51.31%,提升幅度超過14%。這些結果證明了SkillLens在降低成本的同時顯著提升了任務效能。
總體而言,SkillLens為LLM智慧體的技能複用提供了一種成本高效的新正規化。其分層圖結構和動態驗證機制不僅提高了技能複用的精準度,還透過區域性適配避免了全域性重寫的高昂代價。未來,研究者計劃探索更復雜的圖結構以及更高效的驗證器設計,以進一步提升系統的可擴充套件性和魯棒性。