SF-AMS: LLMエージェントにおける構造化記憶のための戦略的忘却フレームワーク
SF-AMSは、LLMエージェントの長期コンテキスト依存性を管理するために、記憶の重要性を動的ユーティリティ信号としてモデル化する戦略的忘却フレームワークを提案する。静的検索を生存メカニズムで置き換え、複合重要度スコアリングを統合する。LoCoMoおよびLongMemEval-sでの実験では、Qwen2.5-7Bでのマルチホップ推論で+9.65 F1と大幅な向上を示し、異なるバックボーン間での強い汎化を実証した。
大規模言語モデル（LLM）エージェントは、マルチステップ推論において長いコンテキスト内の冗長で無関係な情報により性能が低下することが課題となっています。この問題に対処するため、研究チームはSF-AMS（Strategic Forgetting for Agent Memory Systems）と呼ばれる戦略的忘却フレームワークを提案しました。これは、記憶単位の長期的な重要性をモデル化することで、コンパクトで高い有用性を持つ記憶を維持することを目的としています。
従来の静的検索やヒューリスティックな減衰に代わり、SF-AMSはユーティリティ駆動の生存メカニズムを採用します。このメカニズムは、使用の冗長性や時間的信号から記憶の重要性を更新し、エンティティと一貫性のある安定した情報を優先しつつノイズをフィルタリングする階層的な記憶構造を誘導します。さらに、複合重要度スコアリング（Composite Importance Scoring）により、意味レベルとエンティティレベルの信号を統合し、検索のロバスト性を向上させています。
実験はLoCoMoおよびLongMemEval-sベンチマークで実施され、LightMem、MemO、A-Memなどの強力なベースラインと比較されました。結果はすべてのタスクで一貫した改善を示し、特にQwen2.5-7Bによるマルチホップ推論ではF1スコアが最も強いベースラインを9.65上回りました。GPT-4o-miniを用いた時間推論では+6.91 F1、オープンドメインタスクでは+6.53 F1の改善が確認され、異なるバックボーン間での強い汎化能力が実証されました。
これらの結果は、記憶重要性を動的ユーティリティ信号としてモデル化することが、信頼性の高い長文脈推論に不可欠であることを示しています。本研究は、LLMエージェントの記憶管理に新たな方向性を提供し、より効率的でロバストなエージェントシステムの構築に貢献するものと期待されます。