因果 Transformer 通过对联合分布做自回归分解来建模序列，这种设计让模型能够高效地进行从左到右解码并计算条件似然。但这一优势也带来了明显局限：模型无法以可计算的方式从任意条件分布中采样或对其求值，例如在同时给定过去和未来 token 的情况下生成中间的一段文本。近期一些工作试图用全新的架构来解决该问题，但这些方案往往对这类条件的建模效果欠佳，生成质量也会下降。
来自 Yinhan Lu 等六位作者的论文《Simplifying the Modeling of Arbitrary Conditionals in Natural Language》提出了任意条件 GPT（Arbitrary Conditionals GPT，AC-GPT）。该方法只对标准因果 Transformer 做一处简单修改，就能在单次前向传播中评估并采样任意条件分布，覆盖基于过去上下文、未来上下文以及二者混合的情形。换言之，模型不必为不同类型的条件分别设计解码流程，也不必反复迭代调用。
与以往方法的关键区别在于，AC-GPT 完整保留了标准从左到右的顺序以及下一词预测目标。作者强调，这两点是自然语言上取得强劲性能与高效训练的基础。正因为这种兼容性，现有的大语言模型可以直接通过微调获得任意条件建模能力，而无需从头训练新架构或放弃已有的训练范式和权重。
实验结果显示，AC-GPT 在任意条件的建模上优于基线方法，同时没有损害标准的从左到右生成性能。该论文于 2026 年 6 月 12 日提交至 arXiv，编号为 arXiv:2606.14943v1，归类于计算与语言（cs.CL），并交叉列入机器学习（cs.LG），ACM 分类为 I.2.6 和 I.2.7。论文全文提供 PDF、实验性 HTML 以及 TeX 源码等访问方式，DOI 为 10.48550/arXiv.2606.14943。