理解AI記憶的基礎知識

本文是AI記憶系列的第一篇。在當前商業環境中，AI已被廣泛用於郵件草稿、客戶回覆等任務，但很少有人關心AI何時會遺忘——直到造成損失，例如引用過時價格或將已終止的交易當作有效。瞭解AI記憶的運作方式對於決定信任程度至關重要。

傳統計算機儲存（如硬碟、雲盤或CD）類似於一個完美組織的檔案櫃，可以快速查詢，但無法理解內容。而AI記憶則像一個讀過所有檔案並能連線不同點子的朋友。其核心機制是“上下文池”（Context Pool），技術名稱為檢索增強生成（RAG）。在回答問題時，AI會從池中選取相關文件，僅基於手中資料和已有知識作答。該池是封閉的、精心挑選的文件集合。

語義搜尋（Semantic Search）是匹配意義而非關鍵詞。例如，詢問“如何避免因滯納金虧損”時，AI會評估每份文件與問題意義的接近程度（0到1的分數），即使文件中未出現“滯納金”一詞，也能找到相關記錄。但基本語義搜尋無視時間，三年前和三分鐘前的文件可能得分相同，導致陳舊資訊被採用。

AI記憶將文本轉化為向量——一組座標，代表在高維空間（通常768或1536維）中的位置。含義相近的文本（如“狗”與“小狗”）座標相近，無關文本則相距甚遠。相似性透過測量座標距離確定。這些座標透過模型在大量文本中學習模式自動生成，並非人工分配。

需明確區分訓練資料（模型訓練時吸收的凍結知識）與上下文池（使用者可即時編輯的私人文件集）。前者影響模型思維方式，後者是當前問題的直接資料來源。兩者不同：訓練資料不可編輯，上下文池可隨時更新。

AI幻覺部分源於檢索機制。上下文池旨在透過提供真實文件來減少幻覺，但以下情況仍會導致錯誤：檢索到無關文件、池中文件相互矛盾、未找到相關內容時系統預設回到訓練資料或編造答案。因此，上下文池並不能完全消除幻覺，本系列後續將深入探討這些挑戰。

總結來說，AI記憶透過上下文池實現檢索增強生成，利用語義搜尋和向量嵌入來理解意義，但存在時間盲點、檢索錯誤和矛盾記憶等侷限。理解這些基礎對於評估AI的可靠性和安全性至關重要。在後續文章中，我們將進一步探討不同記憶實現方式的差異以及如何最佳化檢索質量。