扩散大语言模型（Diffusion Large Language Models，dLLMs）正在成为自回归（Autoregressive，AR）模型之外的一条新路线，但与 AR 模型不同，它们内部的上下文学习（In-Context Learning，ICL）机制此前很少被系统研究。arXiv 论文 2606.19349《Where to Place the Query? Unveiling and Mitigating Positional Bias in In-Context Learning for Diffusion LLMs via Decoding Dynamics》由郑恒李（Zhengheng Li）等四位作者完成，于 2026 年 4 月 26 日提交，全文 9 张图、4 张表，归入计算与语言（cs.CL）及人工智能（cs.AI）分类。论文的核心发现是：在扩散大模型中，查询（query）放置的位置并不是无关紧要的格式细节，而是一个一阶变量，对生成质量的影响可以与示例本身的语义质量相提并论。
作者指出，AR 模型受单向因果掩码限制，上下文只能按从左到右的顺序排列，因此查询通常被放在末尾。扩散模型则天然使用双向注意力，在空间排布上有很大的自由度。然而，当前的实践往往直接沿用 AR 风格的“查询置于末尾”模板，忽视了这种结构范式的转变。论文通过实证解耦实验证明，位置的方差会显著影响生成结果，其影响程度与示例语义质量的差异相当。这一发现意味着，仅仅优化示例内容并不足以保证 ICL 效果，查询放在哪里同样是一个需要认真对待的设计变量。
从机制层面看，这种位置敏感性有两个来源。其一是注意力流中存在一种空间上的“近因效应”（Recency Effect），即模型更容易关注与查询空间距离较近的内容；其二是解码轨迹会随任务类型发生依赖性的偏移。这两方面共同解释了为什么同一组示例在不同位置会产生质量差异明显的输出。论文由此建立了扩散大模型中空间 ICL 的基础基线，为后续研究提供了对照框架。
在没有真实标签可用于评估的场景下，如何自动选择最优查询位置是一个难点。作者揭示，传统用于衡量单步生成可靠性的置信度指标（C_decoded）在扩散大模型中会失效，不能可靠地反映最终输出质量。为此，他们提出了平均置信度（Average Confidence，记为带横线的 C），该指标跟踪整个迭代解码过程，而非只看某一步的瞬时置信度，从而更稳健地刻画生成质量。
基于这一度量，论文提出了 Auto-ICL，这是一种无需训练的自适应路由策略，能够根据具体输入动态优化查询的放置位置。作者在异构的推理任务与感知任务上进行了验证，结果显示 Auto-ICL 能够稳健地逼近使用真实标签才能达到的 oracle 性能，同时保持免训练的特性，降低了部署成本。整体来看，这项工作不仅揭示了扩散大模型 ICL 中被忽视的位置偏差问题，也给出了可操作的度量与缓解方案，为扩散语言模型的上下文学习实践提供了新的设计准则。