大型語言模型（LLM）在程式合成任務上展現出強大能力，但在需要大規模組合搜尋的困難例項上仍然效率低下且不可靠。針對這一痛點，來自卡內基梅隆大學的研究團隊提出了ReaComp方法，透過將LLM的推理軌跡編譯為可重用的符號求解器，在保持高效能的同時大幅降低推理成本。
ReaComp的核心機制如下：給定少量由LLM生成的推理軌跡，研究團隊利用編碼代理（coding agents）將其編譯為針對受限領域特定語言（DSL）的符號程式合成器。這些合成器在測試時完全不需要呼叫LLM，從而實現了零推理成本。實驗結果表明，符號求解器整合在PBEBench-Lite上達到了91.3%的準確率，在更難的PBEBench-Hard上達到了84.7%的準確率。相比之下，即使使用測試時擴充套件（test-time scaling）的LLM，在PBEBench-Hard上也只有68.4%的準確率，ReaComp以零LLM推理成本取得了16.3個百分點的顯著提升。
除了作為獨立系統表現出色，ReaComp的符號求解器還能與LLM搜尋互補。在PBEBench-Hard上，將符號求解器與LLM搜尋結合，準確率從68.4%提升至85.8%，同時token使用量減少了78%；在SLR-Bench的硬層級上，神經符號混合設定將準確率從34.4%提升至58.0%。這種互補性意味著符號求解器可以處理LLM不太擅長的搜尋密集型任務，從而在整體上實現更高效的推理。
與直接使用編碼代理作為每個例項的求解器相比，透過ReaComp誘匯出的符號求解器在帕累託效率上顯著更優。它們透過一次性構建成本攤銷了大量零token執行的優勢，即只需花費少量計算資源編譯一次，之後便可以無限次免費使用。
更令人印象深刻的是，這些符號求解器展現出了跨領域遷移能力。在真實的歷史語言學任務——預測自然語言資料中的音變——中，大多數求解器實現了零樣本遷移，整合後達到80.1%的準確率，並且恢復出了一些合理的語言學規則。這證明了ReaComp編譯出的符號求解器不僅限於程式合成，還可以應用於其他推理密集型領域。
研究團隊已將程式碼和資料公開，以促進可重複性研究。ReaComp的提出為構建高效、可重用的AI推理系統提供了一條新路徑，有望在模型選型、推理成本、產品能力和評測基準等多個方面產生影響。未來，該技術可能進一步擴充套件到更多領域，成為連線神經網路與符號推理的橋樑。