AI智慧體持久化記憶體與狀態的五種架構模式
本文介紹了AI智慧體中處理持久化記憶體和狀態的五種架構模式，包括：上下文工作緩衝區、執行檢查點、語義記憶、事件日誌和多範圍隔離。這些模式幫助智慧體在長時間執行中保持狀態一致性、故障恢復能力、跨會話知識持久化、歷史反思學習以及多租戶資料隱私。
AI智慧體在長時間部署中保持狀態和記憶是一個核心挑戰。由於大型語言模型（LLM）本質上是無狀態的，每次呼叫都從零開始，早期的開發者將整個對話歷史塞入上下文視窗，但這種方法導致延遲增加、相關事實被埋沒、成本上升。正確的做法是將記憶體和狀態作為有意的架構設計。
狀態是當前任務所需的全部資訊的快照，類似於白板，在任務期間持續更新，會話結束後消失，除非刻意持久化。記憶是跨邊界傳遞資訊的機制：工作記憶處理回合間，語義和情節記憶跨越會話。兩者在任務開始時，代理從記憶中讀取以構建初始狀態；任務進行中持續更新狀態；任務結束時將選定的狀態寫入記憶，供後續使用。
以下五種模式涵蓋了這兩個方面：
- 上下文工作緩衝區（短期執行）：作為滑動視窗，儲存當前會話的即時推理步驟和工具輸出。接近令牌限制時，透過摘要壓縮早期內容，保留邏輯結論，丟棄原始輸出。會話結束時重新整理緩衝區，有價值的內容提取到長期儲存。注意：中途摘要可能重寫提示字首，導致延遲峰值。
- 執行檢查點（容錯與暫停）：長時間執行的任務可能因超時、速率限制或人工審批而中斷。檢查點將工作流狀態（變數、歷史、當前位置）儲存到資料庫，如PostgreSQL或SQLite。代理崩潰後可從最後檢查點恢復。但恢復不保證精確一次語義，副作用節點需冪等；檔案控制代碼和客戶端物件無法檢查點。
- 語義記憶（跨會話知識）：儲存事實、使用者偏好和領域知識。資訊非同步提取到外部資料庫（通常是向量儲存+後設資料過濾，有時結合知識圖譜）。查詢時檢索相關事實注入提示。事實無效化（如透過時間權重、取代邏輯或TTL）避免過時資訊。注意：憑據和秘密不應儲存在可檢索的記憶中；不受信任的內容提取為“事實”可能持續誤導代理，需透過來源標籤控制。
- 事件日誌（歷史反思）：記錄代理執行軌跡：目標、計劃、工具呼叫、結果。工作流結束後後臺記錄。在類似任務前查詢日誌，避免重複錯誤。但檢索到的失敗痕跡是建議性而非約束性，且存在毒化風險——一次環境故障可能被誤記為策略失敗。
- 多範圍隔離（企業隱私）：多使用者或多租戶環境下，記憶必須按使用者、會話或組織隔離。每次寫操作標記身份作用域，檢索時嚴格基於當前使用者的認證令牌過濾。最好在儲存層實施（如按租戶名稱空間或行級安全）。資料刪除不僅涉及原始資料，還需刪除衍生的嵌入、摘要和提取的事實。
總結：這些模式未涉及增長邊界。長期部署中，語義和情節儲存會積累重複、過時和噪聲，檢索質量下降，成本增加。TTL、整理作業和修剪策略是執行大規模記憶的必要部分。將記憶解耦為短期緩衝區、情節儲存和語義儲存，才能構建學習、保護隱私且在生成中穩定的系統。