这篇发表于2026年5月26日的arXiv论文《Why LLMs Fail at Causal Discovery and How Interventional Agents Escape》由Amartya Roy与另一位作者共同完成，共9页、含3幅图，归类于人工智能（cs.AI）与计算语言（cs.CL）。论文聚焦一个核心问题：大型语言模型能否可靠地执行因果发现。因果发现是科学推理的基石之一，但此前的基准测试显示，即使是经过微调的模型，也只能在简单因果图上达到平台期，且随着复杂度上升表现持续下降。然而，模型为什么会失败，一直没有得到明确解释。
论文的核心贡献在于证明这种失败是根本性的，而非工程细节上的缺陷。作者指出，监督微调、直接偏好优化（DPO）以及上下文学习这三种主流范式，最终都会产生同一类预测器：当不同的因果图能够生成相似的观测数据时，这类预测器无法将其区分开。作者进一步论证，若要让模型完成这种区分，其内部表征必须无界增长，而这恰好违背了上述方法得以奏效的前提条件。作者将这一结论形式化为“核障碍定理”（kernel obstruction theorem），说明该局限源于学习范式本身，而不是某个特定模型或某个特定数据集的问题。
为绕开这一障碍，作者提出“智能体因果贝叶斯优化”（Agentic Causal Bayesian Optimization，简称A-CBO）。在该框架中，一个参数冻结的语言模型充当“干预预言机”，只负责回答关于干预效果的定向查询；与此同时，一个外部的贝叶斯循环在候选因果图之间集中信念，并可在对数级轮数内完成收敛。由于决策过程发生在障碍定理不适用的空间之外，A-CBO可以证明收敛，而底层语言模型本身无需任何改动。
实验方面，论文在Corr2Cause基准上验证了A-CBO：在完全不进行训练的情况下，其表现与微调基线相当。作者还提出了新的基准Extended Corr2Cause，将变量规模扩展到24个，包含1.8万条测试样本；在该基准上，A-CBO显著优于微调和偏好优化方法，并且随着问题复杂度上升，优势还在扩大。论文的摘要文本在此处截断，但已清楚传达其结论：与其试图让模型从观测数据中直接“学会”因果关系，不如让冻结的模型提供干预信息，再由外部推理机制承担因果判断。这一思路为语言模型在科学发现与因果推断中的应用提供了一条可证明、可扩展的替代路径。