Pyforge-memory – 為AI智慧體提供有效的三級記憶儲存
Pyforge-memory是一種專為AI智慧體設計的三級記憶系統,透過逐字記錄、關鍵詞記憶和壓縮摘要三層結構,有效減少上下文視窗占用,防止智慧體身份提示被截斷,保持對話連貫性和相關性。
Pyforge-memory是由Forged Logic開發的開源Python庫,專門解決AI智慧體在長時間對話中的上下文視窗溢位問題。傳統記憶工具會將所有對話原始記錄直接塞入上下文,導致在約50次互動後,智慧體的身份提示被靜默截斷,退化為通用助手行為。Pyforge-memory採用三級記憶架構,大幅壓縮上下文佔用,讓每個字元都發揮最大價值。
三級記憶包括:逐字層(Verbatim)保留最近N次原始對話,約400字元,確保對話流暢;關鍵詞層(Keyword)根據當前訊息中的關鍵詞搜尋記憶條目,約300字元,提供相關召回;摘要層(Digest)壓縮舊對話的滾動摘要,約300字元,維持連續性。總上下文從約3000字元降至約1000字元。
該庫具備多項實用功能:毒化檢測可識別並阻止通用AI指令碼輸出汙染記憶;所有配置均可自定義,包括停用詞、停用詞和記憶限制;採用JSONL檔案儲存,無需資料庫或API金鑰,可在任何環境執行;知識目錄支援跨文本檔案進行關鍵詞搜尋,為領域上下文提供支撐;框架無關,相容Ollama、OpenAI、Claude等主流LLM API。
安裝簡單,只需執行pip install pyforge-memory。使用時,先匯入MemoryEngine,設定memory_dir和knowledge_dir路徑,定義LLM呼叫函式,然後呼叫engine.build_context傳入使用者訊息、系統提示和查詢函式,構建上下文後傳送給LLM,最後儲存對話。工作流程如下:使用者訊息到達後,提取關鍵詞,獲取逐字層(經過毒化過濾和近似重複檢測),再搜尋記憶和知識檔案中的關鍵詞匹配並排序,若記憶條目超過10則自動生成摘要,最終組裝成系統提示+逐字層+關鍵詞層+摘要層+使用者訊息的完整上下文。
毒化檢測可透過設定forbidden_terms自定義,例如停用“我是一個AI助手”等短語;使用engine.is_poisoned()檢查文本。知識庫只需將文本檔案放入knowledge目錄即可自動索引。作者強調,三級設計缺一不可:僅逐字層會丟失舊對話上下文,僅關鍵詞層會丟失當前對話流暢性,僅摘要層過於壓縮且丟失細節,三者結合提供時效性、相關性和壓縮性。
Pyforge-memory採用MIT許可證,程式碼託管於GitHub。對於構建需要長時間記憶的AI智慧體的開發者而言,這是一個實用且高效的解決方案。