MILES：具有可學習選擇的模塊化指令記憶，用於自我改進的LLM推理
LLM在測試時通過額外計算提升推理能力，但現有方法大多孤立處理每個問題。MILES框架通過逐步擴展的模塊化記憶單元和可學習選擇頭，實現跨問題的經驗積累，在準確性和效率之間取得更優平衡。
大型語言模型（LLM）在測試時通過增加計算量來提升推理能力已成為一種常見做法，然而現有工作大多將每個問題視為獨立個體，未能有效利用先後出現的問題之間的可複用經驗。為此，研究人員（Ruilin Tong等）提出了MILES（Modular Instruction Memory with LEarnable Selection for Self-Improving LLM Reasoning）框架，旨在通過模塊化的指令記憶和可學習的選擇機制，實現動態的經驗積累與最優組合。該框架在2026年7月8日提交至arXiv，編號為2607.06974。
MILES的核心在於維護由非對稱子目標嵌入和子指令對構成的模塊化記憶單元，每個單元關聯一個可學習的選擇頭。這種結構支持一種粗到細的檢索機制：粗粒度階段負責記憶擴展，並從置信度高的樣本中收集監督信號以訓練選擇頭；細粒度階段則運用已訓練的選擇頭對粗粒度候選進行重排序，為不確定的樣本提供推理引導。
與以往存儲完整解決方案模板（泛化性差）或使用啓發式步驟選擇（未針對最終答案正確性優化）的方法不同，MILES的學習策略直接針對正確性進行優化，且無需大規模訓練數據或固定動作空間，因此特別適用於測試時情景——此時記憶逐步擴展且僅有有限監督可用。實驗結果顯示，MILES在多個基準上一致匹配或超越先前方法，同時實現了更優的準確率與效率平衡，證明了其有效性、魯棒性和可遷移性。該工作屬於計算與語言（cs.CL）和機器學習（cs.LG）領域，對實際應用中的模型選型、推理成本優化等具有潛在影響。