大規模言語モデル(LLM)エージェントは複雑なタスクを解決する際、過去の手続き的経験をスキルとして再利用することが多い。従来のスキルライブラリはスキルをフラットで単一粒度のプロンプトブロックとして扱うことが一般的であり、これにより関連性とコストのトレードオフが生じていた。粗い粒度のスキルを注入すると無関係または誤解を招くコンテキストが混入する可能性がある一方、スキル全体を書き換えるのはコストが高く、しばしば不要である。この問題に対処するため、研究チームはSkillLensを提案する。
SkillLensの中心的な革新は、階層的なスキルグラフの構築にある。スキルはポリシー(政策)、ストラテジー(戦略)、プロシージャ(手順)、プリミティブ(基本動作)の4層に整理される。この4層構造は、高レベルの抽象的な指示から低レベルの具体的な操作まで、段階的に細分化されたスキル体系を形成する。新しいタスクが与えられると、システムはまず意味的に関連するスキルシードを検索し、次数補正ランダムウォークを用いてスキルグラフ上でこれらを拡張する。このステップの重要な点は、ランダムウォークがグラフ構造情報を考慮するだけでなく、次数補正により高次数ノードへのバイアスを回避し、関連スキルをより公平に探索できることである。その後、訓練された検証器が各訪問ユニットに対して決定を下す:直接受理(ユニット全体を再利用)、分解(より細かいサブスキルに分割)、書き換え(局所的に不一致な部分のみ修正)、またはスキップ(無関係なユニットを飛ばす)。この動的選択メカニズムにより、エージェントは互換性のあるサブスキルを直接再利用し、局所的に不一致な部分のみを適応させることができ、不要な計算オーバーヘッドを大幅に削減する。
理論的には、研究者はSkillLensの混合粒度適応が疎なミスマッチ仮定の下で準線形コストであり、スキルライブラリと検証器の継続的改善を含む進化的更新ルールが検証目的を局所最適まで単調に改善することを証明した。これにより、システムの長期安定性が保証される。
実験では、SkillLensはMuLocbench(バグローカライゼーションベンチマーク)とALFWorld(具現化タスクベンチマーク)の2つの困難なベンチマークで評価された。MuLocbenchでは、SkillLensは強力なベースラインと比較してAcc@1を最大6.31パーセンテージポイント向上させ、ALFWorldではエージェントの成功率が45.00%から51.31%に上昇し、14%以上の改善を示した。これらの結果は、SkillLensがコストを削減しながらタスク性能を大幅に向上させることを実証している。
全体として、SkillLensはLLMエージェントのスキル再利用におけるコスト効率的な新しいパラダイムを提供する。階層的グラフ構造と動的検証メカニズムは、スキル再利用の精度を高めるだけでなく、局所適応により全体的な書き換えの高コストを回避する。将来的には、より複雑なグラフ構造や効率的な検証器設計の探求が期待され、システムの拡張性とロバスト性がさらに向上するだろう。