MILES：具有可学习选择的模块化指令记忆，用于自我改进的LLM推理
LLM在测试时通过额外计算提升推理能力，但现有方法大多孤立处理每个问题。MILES框架通过逐步扩展的模块化记忆单元和可学习选择头，实现跨问题的经验积累，在准确性和效率之间取得更优平衡。
大型语言模型（LLM）在测试时通过增加计算量来提升推理能力已成为一种常见做法，然而现有工作大多将每个问题视为独立个体，未能有效利用先后出现的问题之间的可复用经验。为此，研究人员（Ruilin Tong等）提出了MILES（Modular Instruction Memory with LEarnable Selection for Self-Improving LLM Reasoning）框架，旨在通过模块化的指令记忆和可学习的选择机制，实现动态的经验积累与最优组合。该框架在2026年7月8日提交至arXiv，编号为2607.06974。
MILES的核心在于维护由非对称子目标嵌入和子指令对构成的模块化记忆单元，每个单元关联一个可学习的选择头。这种结构支持一种粗到细的检索机制：粗粒度阶段负责记忆扩展，并从置信度高的样本中收集监督信号以训练选择头；细粒度阶段则运用已训练的选择头对粗粒度候选进行重排序，为不确定的样本提供推理引导。
与以往存储完整解决方案模板（泛化性差）或使用启发式步骤选择（未针对最终答案正确性优化）的方法不同，MILES的学习策略直接针对正确性进行优化，且无需大规模训练数据或固定动作空间，因此特别适用于测试时情景——此时记忆逐步扩展且仅有有限监督可用。实验结果显示，MILES在多个基准上一致匹配或超越先前方法，同时实现了更优的准确率与效率平衡，证明了其有效性、鲁棒性和可迁移性。该工作属于计算与语言（cs.CL）和机器学习（cs.LG）领域，对实际应用中的模型选型、推理成本优化等具有潜在影响。