EvoLib：將經驗轉化為進化的知識

大型語言模型（LLM）的智慧提升並非僅僅依靠記憶的積累。微軟研究院提出的EvoLib框架，旨在讓AI系統像人類一樣，從自身經驗中提煉可遷移的知識，並持續進化。與傳統記憶系統僅儲存靜態經驗不同，EvoLib將原始經驗轉化為兩種知識單元：從成功解決方案中提取的可複用技能，以及從錯誤中學習的反思性見解。透過整合（Consolidation）機制，新知識與庫中相似知識合併，形成更通用的知識；同時，權重機制（Weighting）根據知識對當前任務及未來知識生成的貢獻動態調整其重要性，使長期影響最大的知識逐漸凸顯。實驗在數學推理、效率約束下的程式碼編寫和長週期決策任務中進行。結果顯示，EvoLib一致優於基於檢索的記憶方法和抽象記憶機制，且token使用更高效。隨著測試時計算量的增加，EvoLib的效能提升更快，表明將經驗轉化為可複用知識是關鍵。此外，EvoLib對隨機任務順序具有魯棒性，在異構任務交錯的真實場景中效能穩定，無需結構化課程。這意味著AI系統可以在處理混合使用者請求時持續學習，無需重新訓練模型。EvoLib代表了AI持續學習的一步：透過構建進化的知識庫，模型在部署後仍能不斷改進和適應。未來，AI系統或能像人類一樣積累並複用可遷移的技能與洞察。程式碼和實驗結果已在GitHub開源。