EvolveMem: LLMエージェントのためのAutoResearchによる自己進化型メモリアーキテクチャ

現在、大規模言語モデル（LLM）エージェントは複数セッションにわたる動作に長期記憶を必要としますが、既存のメモリシステムは保存されたコンテンツのみを更新し、検索インフラ（スコアリング関数、融合戦略、回答生成ポリシーなど）はデプロイ後に固定されています。この静的設計はエージェントの適応能力を制限し、実際の対話フィードバックに基づいて検索方法を動的に調整することを妨げます。

この課題に対し、Jiaqi Liuら7名の研究者が提案したEvolveMemは、自己進化型メモリアーキテクチャです。その核心は、検索設定全体を構造化アクション空間として公開し、LLM搭載の診断モジュールで最適化することです。各進化ラウンドでは、診断モジュールが質問ごとの失敗ログを読み取り、根本原因を特定し、対象を絞った設定調整を提案します。そして、保護されたメタアナライザがその調整を適用し、自動的な回帰ロールバックと停滞探索の安全策を備えています。つまり、調整によって性能が低下した場合には自動的にロールバックし、性能が長期間停滞した場合には新しい戦略の探索がトリガーされます。この閉ループ自己進化はAutoResearchプロセスを実現し、システムが自律的にアーキテクチャの反復研究サイクルを行い、手動設定調整を不要にします。

実験では、最小ベースラインから出発し、LoCoMoデータセットで最強ベースラインを25.7%（相対）、最小ベースラインを78.0%上回りました。MemBenchでは最強ベースラインを18.9%上回りました。さらに、進化した設定はベンチマーク間で正の転移を示し、自己進化プロセスがベンチマーク固有のヒューリスティックではなく普遍的な検索原理を捉えていることを示唆しています。コードはhttps://github.com/aiming-lab/SimpleMemで公開されています。

本研究は、LLMエージェントの長期記憶管理に新しいパラダイムを提供し、将来的には強化学習やメタ学習を組み合わせて進化プロセスを加速するなど、より広範な自動アーキテクチャ探索への応用が期待されます。