扩散（大）语言模型（dLLM）如今在许多任务上已达到与自回归模型相当的下游性能，同时被寄予推理效率更高的期望。与逐 token 顺序生成的自回归模型不同，dLLM 通过多轮迭代去噪，在每一步并行解码多个位置，这使其有望以更少的步骤完成生成。
在 dLLM 中，一个关键的设计环节是采样过程：在每一个扩散步骤中，究竟选择哪些 token 进行去掩蔽（unmask）。近年来的研究发现，与随机去掩蔽相比，置信度阈值等启发式策略能够同时提升样本质量和 token 吞吐量。直观而言，优先解码模型最有把握的 token，可以让高置信度的内容更早确定，从而为后续位置提供更可靠的上下文。
然而，这类启发式方法存在明显缺陷。首先，它们需要人工调参，阈值取多少往往依赖经验，且可能随模型、任务或数据集变化。其次，论文作者观察到，当块尺寸（block size）增大时，启发式方法的性能会出现退化，这限制了其在更激进并行解码场景下的适用性。
为解决这些问题，作者转而提出用强化学习来训练采样过程。具体而言，他们把掩码扩散采样形式化为一个马尔可夫决策过程，其中 dLLM 本身充当环境，而策略网络负责在每个步骤决定去掩蔽哪些 token。为保持轻量，他们提出的策略基于一个单层 Transformer，将 dLLM 的 token 置信度映射为去掩蔽决策。
实验结果显示，这些训练得到的策略在与半自回归（块式）生成结合时，能够达到当前最先进启发式方法的性能水平；而在完整扩散（full-diffusion）设置下，它们的表现则优于这些启发式方法。这一结果表明，学习式的采样策略有望在无需繁琐人工调参的前提下，释放扩散语言模型并行解码的潜力。
该论文由 Metod Jazbec 与 Theo X. Olausson 等共同完成，作者来自阿姆斯特丹大学、麻省理工学院等机构，部分工作为在 Apple 期间完成。论文于 2026 年 7 月发表。
同一研究方向上，相关工作报告了若干互补进展：例如《Residual Context Diffusion Language Models》指出，当前先进的块式 dLLM 依赖“重掩蔽”机制，只解码最自信的 token 而丢弃其余 token，实际上浪费了计算，而回收这些被丢弃 token 的计算是有益的；《DiffuCoder》则聚焦于掩码扩散模型在代码生成中的解码行为，试图揭示其训练与推理机制。这些工作共同反映出，扩散语言模型的研究正从模型架构扩展到采样与解码策略这一关键环节。
总体而言，该论文的核心贡献在于把 dLLM 的去掩蔽采样从依赖手工设计的启发式规则，转变为可通过强化学习端到端训练的策略，并通过轻量策略网络在保持计算开销可控的同时，在块式与全扩散两种设定下取得有竞争力的效果。