AI News HubLIVE
站內改寫2 分鐘閱讀

Pyforge-memory – 為AI智能體提供有效的三級記憶存儲

Pyforge-memory是一種專為AI智能體設計的三級記憶系統,通過逐字記錄、關鍵詞記憶和壓縮摘要三層結構,有效減少上下文窗口占用,防止智能體身份提示被截斷,保持對話連貫性和相關性。

來源Hacker News AI作者: ForgedLogicdev

Pyforge-memory是由Forged Logic開發的開源Python庫,專門解決AI智能體在長時間對話中的上下文窗口溢出問題。傳統記憶工具會將所有對話原始記錄直接塞入上下文,導致在約50次交互後,智能體的身份提示被靜默截斷,退化為通用助手行為。Pyforge-memory採用三級記憶架構,大幅壓縮上下文佔用,讓每個字符都發揮最大價值。

三級記憶包括:逐字層(Verbatim)保留最近N次原始對話,約400字符,確保對話流暢;關鍵詞層(Keyword)根據當前消息中的關鍵詞搜索記憶條目,約300字符,提供相關召回;摘要層(Digest)壓縮舊對話的滾動摘要,約300字符,維持連續性。總上下文從約3000字符降至約1000字符。

該庫具備多項實用功能:毒化檢測可識別並阻止通用AI腳本輸出污染記憶;所有配置均可自定義,包括禁用詞、停用詞和記憶限制;採用JSONL文件存儲,無需數據庫或API密鑰,可在任何環境運行;知識目錄支持跨文本文件進行關鍵詞搜索,為領域上下文提供支撐;框架無關,兼容Ollama、OpenAI、Claude等主流LLM API。

安裝簡單,只需執行pip install pyforge-memory。使用時,先導入MemoryEngine,設置memory_dir和knowledge_dir路徑,定義LLM調用函數,然後調用engine.build_context傳入用户消息、系統提示和查詢函數,構建上下文後發送給LLM,最後保存對話。工作流程如下:用户消息到達後,提取關鍵詞,獲取逐字層(經過毒化過濾和近似重複檢測),再搜索記憶和知識文件中的關鍵詞匹配並排序,若記憶條目超過10則自動生成摘要,最終組裝成系統提示+逐字層+關鍵詞層+摘要層+用户消息的完整上下文。

毒化檢測可通過設置forbidden_terms自定義,例如禁用“我是一個AI助手”等短語;使用engine.is_poisoned()檢查文本。知識庫只需將文本文件放入knowledge目錄即可自動索引。作者強調,三級設計缺一不可:僅逐字層會丟失舊對話上下文,僅關鍵詞層會丟失當前對話流暢性,僅摘要層過於壓縮且丟失細節,三者結合提供時效性、相關性和壓縮性。

Pyforge-memory採用MIT許可證,代碼託管於GitHub。對於構建需要長時間記憶的AI智能體的開發者而言,這是一個實用且高效的解決方案。