AI智能體時代的記憶(綜述論文)
這篇綜述論文探討了基於基礎模型的智能體中記憶的核心作用,提出了一個從形式、功能和動態三個維度分類記憶的統一框架,並總結了當前研究、基準測試和開源框架,展望了未來方向。
近日,一篇題為《AI智能體時代的記憶》的綜述論文在arXiv上發佈,由Yuyang Hu等47位作者共同撰寫。該論文指出,記憶已成為基於基礎模型的智能體的核心能力,且這一趨勢將持續。隨着相關研究的迅速擴張,該領域也日益碎片化。現有工作往往在動機、實現和評估協議上存在顯著差異,而鬆散定義的記憶術語進一步模糊了概念界限。傳統如長期/短期記憶的分類已不足以捕捉當代智能體記憶系統的多樣性。
為此,論文旨在提供當前智能體記憶研究的最新全景。首先,清晰界定了智能體記憶的範圍,並將其與LLM記憶、檢索增強生成(RAG)和上下文工程等相關概念區分開。然後,通過統一的視角——形式、功能和動態——審視智能體記憶。從形式角度,確定了三種主要實現:令牌級記憶、參數化記憶和潛記憶。令牌級記憶直接在token序列中儲存信息,參數化記憶通過模型權重隱式編碼知識,而潛記憶則利用連續向量空間表示。從功能角度,提出了更細粒度的分類:事實記憶存儲客觀知識,經驗記憶保留交互歷史,工作記憶則處理當前任務相關信息的臨時存儲與操作。從動態角度,分析了記憶如何隨時間形成、演化和檢索,包括記憶寫入、鞏固、更新和遺忘機制。
為支持實際開發,論文彙編了記憶基準測試和開源框架的全面總結。基準測試涵蓋了合成環境和真實世界場景,評估記憶的容量、持久性和檢索效率。開源框架如MemGPT、Generative Agents等提供了模塊化實現。進一步,論文展望了新興研究前沿,包括記憶自動化(自動記憶管理策略)、強化學習集成(利用記憶優化策略學習)、多模態記憶(處理文本、圖像、語音等多模態信息)、多智能體記憶(多個智能體共享和協調記憶)以及可信性問題(記憶的隱私、偏見和安全性)。該調查不僅作為現有工作的參考,也作為重新思考記憶作為未來智能體智能設計中一等原語的概念基礎。