符號迴歸（Symbolic Regression, SR）是科學發現中的一項基本挑戰，目標是從數據集中自動發現最能描述數據的數學表達式。傳統方法主要基於遺傳算法等進化技術，雖然在一定程度上有效，但在可擴展性和表達力方面存在明顯侷限。近年來，大語言模型（LLM）被引入符號迴歸的進化搜索中，展現出潛力。然而，現有的LLM方法通常只依賴均方誤差等標量評估指標作為搜索過程中的唯一反饋，忽略了數據集中藴含的豐富信息，如數據分佈、異常點等。
為了解決這一問題，來自多家機構的研究者（Hao Liu, Xiao-Wen Yang, Atharva Sehgal, Yixin Wang, Lan-Zhe Guo, Yu-Feng Li, Yisong Yue）提出了一種新型LLM進化搜索框架，該框架引入了程序化上下文增強（Programmatic Context Augmentation）機制。該方法允許LLM以代碼形式與數據集進行交互，從而能夠主動進行數據分析，提取超越簡單聚合評估分數的信息信號。具體而言，LLM可以生成代碼來分析數據的統計特性、可視化分佈或檢測異常值，並將這些分析結果作為上下文反饋給搜索過程，從而引導生成更合適的數學表達式。
研究者們在LLM-SRBench等先進基準上對框架進行了評估，結果顯示，相比強基線方法，該框架在效率和準確性上均取得了顯著提升。論文於2026年5月4日提交至arXiv，編號2605.03101，屬於人工智能領域。這一工作為符號迴歸中LLM的應用開闢了新路徑，有望加速科學發現過程。