符号回归（Symbolic Regression, SR）是科学发现中的一项基本挑战，目标是从数据集中自动发现最能描述数据的数学表达式。传统方法主要基于遗传算法等进化技术，虽然在一定程度上有效，但在可扩展性和表达力方面存在明显局限。近年来，大语言模型（LLM）被引入符号回归的进化搜索中，展现出潜力。然而，现有的LLM方法通常只依赖均方误差等标量评估指标作为搜索过程中的唯一反馈，忽略了数据集中蕴含的丰富信息，如数据分布、异常点等。
为了解决这一问题，来自多家机构的研究者（Hao Liu, Xiao-Wen Yang, Atharva Sehgal, Yixin Wang, Lan-Zhe Guo, Yu-Feng Li, Yisong Yue）提出了一种新型LLM进化搜索框架，该框架引入了程序化上下文增强（Programmatic Context Augmentation）机制。该方法允许LLM以代码形式与数据集进行交互，从而能够主动进行数据分析，提取超越简单聚合评估分数的信息信号。具体而言，LLM可以生成代码来分析数据的统计特性、可视化分布或检测异常值，并将这些分析结果作为上下文反馈给搜索过程，从而引导生成更合适的数学表达式。
研究者们在LLM-SRBench等先进基准上对框架进行了评估，结果显示，相比强基线方法，该框架在效率和准确性上均取得了显著提升。论文于2026年5月4日提交至arXiv，编号2605.03101，属于人工智能领域。这一工作为符号回归中LLM的应用开辟了新路径，有望加速科学发现过程。