SaliMory：為對話代理編排認知記憶
SALIMORY是一個新框架，通過訓練單一語言模型管理結構化認知記憶（包括用户事實、偏好和工作記憶），解決了對話代理長期記憶難題。它引入分層階段過程獎勵和獎勵分解對比細化，端到端監督選擇性過濾、整合和線索驅動回憶等操作。該方法將記憶相關故障減少三分之一，端到端準確率提升超10%，良好個性化率翻倍。
對話代理作為終身伴侶，必須在所有交互中維持持久記憶。然而，現有方法存在兩難：簡單地擴展上下文窗口並直接進行原始檢索會降低推理質量，因為模型需要處理大量無關信息；而通過標準強化學習訓練記憶代理則會在多階段流程中造成嚴重的信用分配瓶頸，因為很難確定哪個階段的決策導致了最終的成功或失敗。為了從根本上解決這些問題，研究者提出了SALIMORY框架。
SALIMORY的核心思想是訓練一個單一語言模型來管理認知結構化的記憶，這種記憶包括三個層次：用户事實（如姓名、生日）、用户偏好（如喜歡的音樂類型）以及工作記憶（當前會話的上下文）。通過引入分層階段過程獎勵和獎勵分解對比細化，SALIMORY能夠為三個關鍵的記憶操作——選擇性過濾、整合和線索驅動回憶——提供獨立且細粒度的監督信號。選擇性過濾負責決定哪些信息值得記憶，整合負責將新信息融入已有知識結構，而線索驅動回憶則是在需要時準確提取相關信息。這種端到端的設計避免了傳統流水線中每個模塊獨立訓練導致的錯誤積累。
在實驗評估中，SALIMORY展現出了顯著優勢：與最先進的基線相比，記憶相關故障減少了三分之一，端到端準確率提高了超過10%，良好個性化率更是翻了一倍以上。這些成果由Kai Zhang等14位作者共同完成，論文於2026年6月2日提交至arXiv，屬於計算與語言和人工智能交叉領域。SALIMORY的成功表明，通過認知結構的記憶管理和精細化的獎勵設計，可以大幅提升對話代理的記憶能力，為構建真正個性化和長期記憶的AI伴侶奠定了重要基礎。