記号回帰(Symbolic Regression, SR)は、与えられたデータセットを最もよく説明する数式を自動発見するタスクであり、科学発見の基本的課題です。従来の遺伝的アルゴリズムに基づく手法は有用ですが、スケーラビリティと表現力に限界があります。近年、大規模言語モデル(LLM)を用いた進化的探索手法がSRに導入され、有望な成果を上げています。しかし、既存のLLMベースの手法は、平均二乗誤差などのスカラー評価指標のみをフィードバックとして利用するため、データセットに含まれる豊富な情報(データ分布や外れ値など)を見逃していました。
この制限を克服するために、Hao Liu氏ら6名の研究者は、プログラム的コンテキスト拡張(Programmatic Context Augmentation)を組み込んだ新しいLLMベース進化探索フレームワークを提案しました。この手法では、LLMがコードベースでデータセットと対話できるようにし、積極的にデータ解析を行い、単なる評価スコアを超えた情報信号を抽出します。例えば、LLMはコードを生成してデータの統計特性を分析したり、可視化を行ったり、異常値を検出したりし、その結果をコンテキストとして探索プロセスにフィードバックします。
提案フレームワークは、LLM-SRBenchなどの高度なベンチマークで評価され、強力なベースラインと比較して優れた効率と精度を示しました。本論文は2026年5月4日にarXivに提出され、識別番号は2605.03101です。この研究は、記号回帰におけるLLMの活用に新たな道を開き、科学的発見の加速に貢献すると期待されます。