本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

SkillLens:コスト効率的なLLMエージェントのための適応型マルチグラニュラリティスキル再利用

記事の要約

SkillLensは、スキルを4層グラフ(ポリシー、ストラテジー、プロシージャ、プリミティブ)に整理し、混合粒度で検索する階層的スキル進化フレームワークを提案する。タスクに対して、まずセマンティックに関連するスキルシードを検索し、次数補正ランダムウォークで拡張、検証器が各ユニットの受理・分解・書き換え・スキップを決定する。理論解析により、混合粒度適応が疎なミスマッチ仮定の下で準線形コストであり、進化的更新ルールが局所最適まで検証目的を単調改善することを示す。MuLocbenchとALFWorldにおいて、SkillLensはバグローカライゼーションで最大6.31パーセンテージポイントのAcc@1向上、成功率を45.00%から51.31%に向上させた。

ソースarXiv AI著者: Yongliang Miao, Ziyang Yu, Liang Zhao, Bowen Zhu, Hasibul Haque
SkillLens:コスト効率的なLLMエージェントのための適応型マルチグラニュラリティスキル再利用
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

大規模言語モデル(LLM)エージェントは複雑なタスクを解決する際、過去の手続き的経験をスキルとして再利用することが多い。従来のスキルライブラリはスキルをフラットで単一粒度のプロンプトブロックとして扱うことが一般的であり、これにより関連性とコストのトレードオフが生じていた。粗い粒度のスキルを注入すると無関係または誤解を招くコンテキストが混入する可能性がある一方、スキル全体を書き換えるのはコストが高く、しばしば不要である。この問題に対処するため、研究チームはSkillLensを提案する。

SkillLensの中心的な革新は、階層的なスキルグラフの構築にある。スキルはポリシー(政策)、ストラテジー(戦略)、プロシージャ(手順)、プリミティブ(基本動作)の4層に整理される。この4層構造は、高レベルの抽象的な指示から低レベルの具体的な操作まで、段階的に細分化されたスキル体系を形成する。新しいタスクが与えられると、システムはまず意味的に関連するスキルシードを検索し、次数補正ランダムウォークを用いてスキルグラフ上でこれらを拡張する。このステップの重要な点は、ランダムウォークがグラフ構造情報を考慮するだけでなく、次数補正により高次数ノードへのバイアスを回避し、関連スキルをより公平に探索できることである。その後、訓練された検証器が各訪問ユニットに対して決定を下す:直接受理(ユニット全体を再利用)、分解(より細かいサブスキルに分割)、書き換え(局所的に不一致な部分のみ修正)、またはスキップ(無関係なユニットを飛ばす)。この動的選択メカニズムにより、エージェントは互換性のあるサブスキルを直接再利用し、局所的に不一致な部分のみを適応させることができ、不要な計算オーバーヘッドを大幅に削減する。

理論的には、研究者はSkillLensの混合粒度適応が疎なミスマッチ仮定の下で準線形コストであり、スキルライブラリと検証器の継続的改善を含む進化的更新ルールが検証目的を局所最適まで単調に改善することを証明した。これにより、システムの長期安定性が保証される。

実験では、SkillLensはMuLocbench(バグローカライゼーションベンチマーク)とALFWorld(具現化タスクベンチマーク)の2つの困難なベンチマークで評価された。MuLocbenchでは、SkillLensは強力なベースラインと比較してAcc@1を最大6.31パーセンテージポイント向上させ、ALFWorldではエージェントの成功率が45.00%から51.31%に上昇し、14%以上の改善を示した。これらの結果は、SkillLensがコストを削減しながらタスク性能を大幅に向上させることを実証している。

全体として、SkillLensはLLMエージェントのスキル再利用におけるコスト効率的な新しいパラダイムを提供する。階層的グラフ構造と動的検証メカニズムは、スキル再利用の精度を高めるだけでなく、局所適応により全体的な書き換えの高コストを回避する。将来的には、より複雑なグラフ構造や効率的な検証器設計の探求が期待され、システムの拡張性とロバスト性がさらに向上するだろう。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • SkillLensはスキルをポリシー、ストラテジー、プロシージャ、プリミティブの4層グラフに整理し、混合粒度での検索を可能にする。
  • ランダムウォークと検証器による動的なスキル選択と局所適応により、オーバーヘッドを削減。
  • 理論的に準線形適応コストと局所最適への単調収束を証明。
  • バグローカライゼーションと具現化タスクでベースラインを上回り、成功率を6ポイント以上向上。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。