為AI智慧體構建持久化記憶體的經驗教訓
mem9的故事始於一次客戶請求,從一個快速原型發展成一個完整產品。本文分享了構建智慧體記憶體的關鍵經驗:記憶體不僅僅是儲存問題,而是涉及攝取、排序、評估和產品判斷的工程挑戰。記憶體API本身不足以構成產品,使用者需要檢視、檢查、信任和糾正智慧體的記憶。此外,評估應成為記憶體產品的基礎設施,以使質量視覺化和可除錯。最後,智慧體記憶體不應侷限於文本,應向多模態發展。
文章情報
要點
- mem9起源於客戶提出的實際問題,而非市場理論,透過快速原型驗證了價值。
- 智慧體記憶體的核心挑戰並非持久化,而是在生產約束下精確檢索相關資訊。
- 僅有記憶體API遠遠不夠,使用者需要視覺化和管理記憶的工具。
- 評估與基準測試是記憶體產品的基礎設施,用於衡量和提升召回質量。
為什麼重要
這條新聞值得關注,因為mem9起源於客戶提出的實際問題,而非市場理論,透過快速原型驗證了價值。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
mem9的故事始於2026年3月一個客戶提出的簡單問題:讓智慧體記住事情。我們沒有遵循常規的路線圖或架構審查,而是直接構建了一個粗糙的原型,並在客戶面前展示。一旦人們看到智慧體能夠記住通常會被遺忘的資訊,對話立即從“有趣的能力”轉變為“市場需要的產品”。
在最初幾天,我們迅速搭建了核心系統:一個Go伺服器、記憶體API、TiDB Cloud作為儲存層、搜尋、認證、速率限制以及首批外掛整合。隨後,支援範圍迅速擴充套件到OpenClaw、OpenCode和Claude Code等智慧體環境,同時改進了 onboarding,建立了多租戶基礎,並上線了第一個mem9.ai網站。我們不是按順序從基礎設施到產品再到增長,而是所有軌道同時推進,因為一旦價值顯而易見,猶豫比前進更昂貴。
早期我們意識到,智慧體記憶體不能僅僅被視為一個儲存特性。許多討論仍將記憶體問題框定為“儲存加檢索”,但這過於膚淺。真正的挑戰不在於資訊能否被儲存,而在於正確的資訊是否在正確的時間以正確的量返回。召回太少會遺漏關鍵細節,召回太多會汙染上下文。隨著記憶體增長,如果召回變得嘈雜,信任就會消失。因此,關鍵在於精度,而非持久化。
這一洞察推動mem9迅速超越基本的記憶體儲存,轉向一個更具意見的系統,涉及攝取、提取、協調、排序和檢索。我們選擇了以伺服器為中心的架構,以便整合保持輕量,而記憶體邏輯可以集中演進。這使我們能夠改進核心行為,而不是將複雜性推送到每個外掛或執行時中。
下一個教訓是:僅有記憶體API不足以構成產品。人們不僅希望記憶體存在,還希望看到、檢查、信任、糾正並最終塑造它。因此,我們構建了使記憶體可理解的介面:會話檢視、時間線檢視、分析工作流、篩選器、預覽和洞察層。這些幫助使用者理解不僅記住了什麼,還理解了為什麼重要。這項工作逐漸演變成“你的記憶”,不僅是UI,更是讓長期記憶變得具體而非抽象的方式。
在後端,這一轉變要求不同的工程方法:分類學、分析質量、去重、響應性和更好的報告工作流。第一階段證明了記憶體能夠工作,而這一階段使其變得可理解和可信。同時,我們還構建了所有讓產品易於被發現的細節:公共網站、文件、分析、歸屬、聯絡流程、更好的 onboarding,以及最終的API文件。這些變化雖然不引人注目,但卻是產品增長的關鍵。
一旦使用者開始在實際工作流中依賴記憶體,直覺便不再足夠。我們需要衡量召回質量是否改善或退化。因此,我們將評估視為產品基礎設施,構建了評估框架,將較早的多輪對話資料集適配到現代智慧體場景,並建立了反饋迴圈以指導工程決策。基準測試從學術評分變為產品真相的工具,幫助我們超越直覺,進入可迭代的改善迴圈。
在構建mem9的過程中,我們還發現記憶體不應完全不可見。使用者將記憶體體驗為連續性,而非索引。他們關心繫統是否感覺瞭解他們,是否能隨時間連線線索,這種連續性是否可信而非詭異。因此,我們持續投資於視覺化,例如Memory Farm——一個畫素藝術風格的視覺記憶探索器,記憶如同植物在花園中生長,按主題聚類並透過關係連線。這種設計背後的嚴肅思考是:當使用者能以更直觀的形式看到模式、聚類、歷史和關係時,記憶體變得更易理解。
從外部看,智慧體記憶體是一個熱門類別,但從內部看,它充滿了艱難的邊緣案例:大上下文視窗仍然有限,重要事實被近期噪音掩蓋,樸素檢索帶回錯誤資訊,重複浪費token,質量隨記憶體增長而退化。一旦召回開始顯得隨機,使用者信心迅速喪失。mem9從第一天起就構建在這些問題之中,因此產品如此迅速地從原始持久化轉向攝取、協調、混合檢索、排序、分析、基準測試和編排。
隨著構建,我們越來越確信智慧體的長期記憶體應超越純文本檢索。在多模態用例中,記憶體的含義發生變化:一個有用的記憶體系統不僅應檢索多年前的句子,還應能檢索影像、音訊片段、互動和周圍上下文。這一方向塑造了我們的很多思考,尤其是與drive9(我們新的檔案和工件產品)的結合。
mem9從一個快速原型發展成為擁有超過一萬使用者的產品,僅用了兩週多時間。這段旅程更像一個壓縮的創業年,而非常規軟體專案。我們學到的最重要的東西是:智慧體記憶體不僅關乎儲存,更關乎幫助智慧體決定什麼應該保留、什麼應該浮現、什麼應該保持安靜。這是一個工程、產品與人類信任的交匯點。