AI News HubLIVE
站內改寫2 分鐘閱讀

MemoryOps:面向AI助手的企業級內存治理基礎設施

MemoryOps是一個專為AI助手設計的企業級內存治理層,將內存視為受治理的決策系統而非簡單數據庫。它實現了從捕獲、策略評估、類型化存儲到混合檢索、受控遺忘、審計及租户隔離的完整內存生命週期管理。項目支持無API密鑰的離線存根運行,提供完整的架構文檔和可測試的固有不變量。當前已實現寫入/讀取路徑、策略執行、審計日誌、臨時會話控制及治理UI等核心功能。

來源Hacker News AI作者: pvmanideep20

MemoryOps是一個專為AI助手設計的企業級內存治理基礎設施,其核心理念將內存視為受治理的決策系統而非簡單數據庫。與傳統將消息直接存入向量數據庫的演示不同,MemoryOps實現了受治理的內存生命週期:寫入路徑包括消息提取、策略評估(通過策略代理)、類型化存儲及審計日誌;讀取路徑則包含檢索、排序、上下文組合及響應生成。此外,後台還運行衰減、反射、衝突解決和壓縮等持續維護任務。

系統強制實施多項企業級不變量:租户隔離確保用户A的內存永不被返回給用户B;刪除保證確保已刪除內存不再被檢索;來源追蹤使每條存儲內存都可追溯至原始消息或文檔;優雅降級策略確保檢索失敗不會阻塞響應生成;策略優先於存儲,不安全或類似機密的內容在進入存儲前即被過濾;臨時會話不讀寫內存;每個生命週期事件均產生只追加的審計事件;系統可展示哪些內存影響了特定響應;支持情景性、語義性、過程性、項目性、知識性和系統性等類型化內存,且內存質量可通過黃金數據集進行測試。

項目倉庫結構清晰,包括基於Next.js的前端、FastAPI後端API、後台工作器、共享類型包以及Postgres+pgvector數據庫基礎設施。快速啓動支持兩種方式:僅API模式使用內存存儲運行,無需外部基礎設施;完整堆棧模式通過Docker Compose啓動,包含前端、API、數據庫和Redis。嵌入和LLM提供者均採用可插拔設計,默認使用確定性離線存根,無需API密鑰即可復現測試和演示,可選配OpenAI、Anthropic或Gemini等真實提供者。

MemoryOps的部署僅支持Railway平台,通過五個服務(Web前端、API後端、工作器、Postgres和Redis)組成。已實現的功能包括:完整的寫入/讀取路徑、啓發式提取和策略代理(無需API密鑰)、類型化內存分類和重要性/置信度/敏感性評分、策略決策(保存、待審批、阻止、丟棄低效用、更新現有、合併現有)、密鑰/PII檢測、只追加審計日誌、臨時會話短路、內存儀表板和管理/審計頁面、不變量測試套件和評估框架。此外,還引入了循環工程層,將內存建模為一組受治理的循環(寫入、讀取、治理、評估、發佈門、持續學習),以及由Headroom驅動的可選上下文壓縮層。

最新版本(v0.5)新增了治理UI和內存控制平面,提供瀏覽器端可治理的內存生命週期管理,包括可過濾的內存清單、詳情頁面(含來源和逐內存審計時間線)、審批隊列和租户級審計歷史。所有操作均經過審計,策略代理保持權威性。MemoryOps旨在為AI助手提供企業級的內存治理解決方案,確保安全性、可審計性和可控性。