跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

SkillLens:面向成本高效LLM智慧體的自適應多粒度技能複用

文章摘要

SkillLens提出了一種分層技能演化框架,將技能組織為四層圖結構(策略、方案、過程、原語),並透過混合粒度檢索實現高效複用。在任務執行中,系統先檢索相關技能種子,經由度數校正隨機遊走擴充套件,再透過驗證器決定每個單元的接受、分解、重寫或跳過。理論分析表明混合粒度適配在稀疏不匹配假設下具有次線性成本,且演化更新規則單調提升驗證目標。在MuLocbench和ALFWorld上,SkillLens分別取得了6.31個百分點的缺陷定位Acc@1提升和從45.00%到51.31%的成功率提升。

來源arXiv AI作者: Yongliang Miao, Ziyang Yu, Liang Zhao, Bowen Zhu, Hasibul Haque
SkillLens:面向成本高效LLM智慧體的自適應多粒度技能複用
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

大型語言模型(LLM)智慧體在解決複雜任務時,常常需要複用已有的程式性經驗,即技能。傳統的技能庫通常將技能視為扁平的、單一粒度的提示塊,這帶來了一個兩難問題:注入粗粒度技能可能引入無關或誤導性上下文,而重寫整個技能又成本高昂且往往不必要。為應對這一挑戰,來自科研團隊的研究者們提出了SkillLens——一種自適應的多粒度技能複用框架,旨在兼顧複用效率與適應性。

SkillLens的核心創新在於構建了一個分層技能圖,將技能組織為四個層次:策略(policies)、方案(strategies)、過程(procedures)和原語(primitives)。這種四層結構從高層的抽象指導到低層的具體操作,形成了一個漸進式細化的技能體系。當面對一個新任務時,系統首先檢索語義相關的技能種子,然後透過度數校正的隨機遊走在技能圖上擴充套件這些種子。這一步的關鍵在於,隨機遊走不僅考慮了圖結構資訊,還透過度數校正避免了偏向高度數節點的偏差,從而更公平地探索相關技能。隨後,一個訓練好的驗證器對每個訪問到的技能單元進行決策:它可以選擇直接接受(複用完整單元)、分解為更細粒度的子技能、重寫區域性不匹配的部分,或者跳過不相關的單元。這種動態選擇機制使得智慧體能夠直接複用相容的子技能,而僅對區域性不匹配的元件進行適配,從而大幅降低了不必要的計算開銷。

理論上,研究者證明了SkillLens的混合粒度適配在稀疏不匹配假設下具有次線性成本,這意味著隨著任務複雜度的增加,額外適配成本的增長遠低於線性。同時,演化更新規則(包括技能庫和驗證器的持續最佳化)能夠單調改進驗證目標,直至達到區域性最優。這為系統的長期穩定性提供了保證。

實驗方面,SkillLens在兩個具有挑戰性的基準上進行了評估:MuLocbench(缺陷定位基準)和ALFWorld(具身任務基準)。在MuLocbench上,SkillLens相比強基線方法實現了高達6.31個百分點的Acc@1提升;在ALFWorld上,智慧體的成功率從45.00%提升至51.31%,提升幅度超過14%。這些結果證明了SkillLens在降低成本的同時顯著提升了任務效能。

總體而言,SkillLens為LLM智慧體的技能複用提供了一種成本高效的新正規化。其分層圖結構和動態驗證機制不僅提高了技能複用的精準度,還透過區域性適配避免了全域性重寫的高昂代價。未來,研究者計劃探索更復雜的圖結構以及更高效的驗證器設計,以進一步提升系統的可擴充套件性和魯棒性。

展開要點與分析

文章情報

工程師進階

要點

  • SkillLens將技能組織為策略、方案、過程、原語四層圖結構,支援混合粒度檢索。
  • 透過隨機遊走和驗證器實現技能的動態選擇與區域性適配,降低冗餘成本。
  • 理論證明混合粒度適配成本為次線性,且演化更新單調收斂至區域性最優。
  • 在缺陷定位和具身任務中顯著超越基線方法,成功率提升超過6個百分點。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。