本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

EvolveMem: LLMエージェントのためのAutoResearchによる自己進化型メモリアーキテクチャ

記事の要約

EvolveMemは、自己進化型メモリアーキテクチャであり、AutoResearchプロセスを介して検索設定を自動最適化し、複数のベンチマークで大幅な性能向上を達成しました。

ソースarXiv Machine Learning著者: Jiaqi Liu, Xinyu Ye, Peng Xia, Zeyu Zheng, Cihang Xie, Mingyu Ding, Huaxiu Yao
EvolveMem: LLMエージェントのためのAutoResearchによる自己進化型メモリアーキテクチャ
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

現在、大規模言語モデル(LLM)エージェントは複数セッションにわたる動作に長期記憶を必要としますが、既存のメモリシステムは保存されたコンテンツのみを更新し、検索インフラ(スコアリング関数、融合戦略、回答生成ポリシーなど)はデプロイ後に固定されています。この静的設計はエージェントの適応能力を制限し、実際の対話フィードバックに基づいて検索方法を動的に調整することを妨げます。

この課題に対し、Jiaqi Liuら7名の研究者が提案したEvolveMemは、自己進化型メモリアーキテクチャです。その核心は、検索設定全体を構造化アクション空間として公開し、LLM搭載の診断モジュールで最適化することです。各進化ラウンドでは、診断モジュールが質問ごとの失敗ログを読み取り、根本原因を特定し、対象を絞った設定調整を提案します。そして、保護されたメタアナライザがその調整を適用し、自動的な回帰ロールバックと停滞探索の安全策を備えています。つまり、調整によって性能が低下した場合には自動的にロールバックし、性能が長期間停滞した場合には新しい戦略の探索がトリガーされます。この閉ループ自己進化はAutoResearchプロセスを実現し、システムが自律的にアーキテクチャの反復研究サイクルを行い、手動設定調整を不要にします。

実験では、最小ベースラインから出発し、LoCoMoデータセットで最強ベースラインを25.7%(相対)、最小ベースラインを78.0%上回りました。MemBenchでは最強ベースラインを18.9%上回りました。さらに、進化した設定はベンチマーク間で正の転移を示し、自己進化プロセスがベンチマーク固有のヒューリスティックではなく普遍的な検索原理を捉えていることを示唆しています。コードはhttps://github.com/aiming-lab/SimpleMemで公開されています。

本研究は、LLMエージェントの長期記憶管理に新しいパラダイムを提供し、将来的には強化学習やメタ学習を組み合わせて進化プロセスを加速するなど、より広範な自動アーキテクチャ探索への応用が期待されます。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 既存のメモリシステムは保存されたコンテンツのみを進化させるが、EvolveMemはコンテンツと検索機構を共進化させる。
  • LLM駆動の診断モジュールが失敗ログを分析し、設定調整を提案、安全機構を備えて適用する。
  • LoCoMoで最強ベースラインを25.7%、MemBenchで18.9%上回り、設定はベンチマーク間で正の転移を示す。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。