跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

基於程式化上下文增強的LLM符號迴歸方法

文章摘要

該論文提出一種基於程式化上下文增強的LLM進化搜尋框架,透過程式碼與資料集互動,提取豐富資訊,超越傳統標量評估指標,顯著提升符號迴歸的效率和準確性。

來源arXiv AI作者: Hao Liu, Xiao-Wen Yang, Atharva Sehgal, Yixin Wang, Lan-Zhe Guo, Yu-Feng Li, Yisong Yue
基於程式化上下文增強的LLM符號迴歸方法
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

符號迴歸(Symbolic Regression, SR)是科學發現中的一項基本挑戰,目標是從資料集中自動發現最能描述資料的數學表示式。傳統方法主要基於遺傳演算法等進化技術,雖然在一定程度上有效,但在可擴充套件性和表達力方面存在明顯侷限。近年來,大語言模型(LLM)被引入符號迴歸的進化搜尋中,展現出潛力。然而,現有的LLM方法通常只依賴均方誤差等標量評估指標作為搜尋過程中的唯一反饋,忽略了資料集中蘊含的豐富資訊,如資料分佈、異常點等。

為了解決這一問題,來自多家機構的研究者(Hao Liu, Xiao-Wen Yang, Atharva Sehgal, Yixin Wang, Lan-Zhe Guo, Yu-Feng Li, Yisong Yue)提出了一種新型LLM進化搜尋框架,該框架引入了程式化上下文增強(Programmatic Context Augmentation)機制。該方法允許LLM以程式碼形式與資料集進行互動,從而能夠主動進行資料分析,提取超越簡單聚合評估分數的資訊訊號。具體而言,LLM可以生成程式碼來分析資料的統計特性、視覺化分佈或檢測異常值,並將這些分析結果作為上下文反饋給搜尋過程,從而引導生成更合適的數學表示式。

研究者們在LLM-SRBench等先進基準上對框架進行了評估,結果顯示,相比強基線方法,該框架在效率和準確性上均取得了顯著提升。論文於2026年5月4日提交至arXiv,編號2605.03101,屬於人工智慧領域。這一工作為符號迴歸中LLM的應用開闢了新路徑,有望加速科學發現過程。

展開要點與分析

文章情報

工程師進階

要點

  • 符號迴歸是科學發現中從資料發現數學表示式的關鍵任務。
  • 現有LLM方法僅依賴標量指標如均方誤差,忽視資料中的豐富資訊。
  • 新框架透過程式化上下文增強,允許LLM主動進行資料分析。
  • 在LLM-SRBench上表現優於強基線,兼具高效與準確。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。