扩散语言模型（Diffusion Language Models, dLLMs）因其在高度并行处理方面的潜力而受到广泛关注。与自回归模型逐步生成不同，dLLMs通过迭代去噪过程同时生成多个令牌，从而有望大幅提升解码速度。然而，现有dLLMs的并行能力依赖于条件独立假设，该假设要求模型在解码时对每个令牌具有高置信度，以确保边际分布与联合分布之间的差异可忽略不计。这种严格的置信度阈值虽然保证了生成质量，但严重限制了并行解码的扩展性——因为只有少数令牌能在早期满足高置信度条件，大部分令牌仍需逐步去噪，导致并行优势无法充分发挥。
为了解决这一问题，Haohui Zhang等研究者对令牌级动态进行了系统的统计分析。他们发现，在去噪过程中，相当大比例的令牌在早期迭代中就已经收敛到了正确的预测结果，但它们的置信度分数却远低于标准阈值。这表明现有的置信度标准过于保守，错失了提前解码的机会。基于这一洞察，团队提出了LEAP（Lookahead Early-Convergence Token Detection for Accelerated Parallel Decoding）方法。
LEAP是一种无需训练、即插即用的技术，核心思想是识别那些尽管置信度不高但实际上已经正确收敛的令牌。它通过两种机制实现：一是利用未来上下文过滤，即参考后续去噪步骤中的信息来验证当前令牌的收敛性；二是采用多序列叠加，通过比较多个独立去噪序列中令牌的一致性来增强检测可靠性。LEAP首先检测出早收敛令牌，然后允许它们提前解码，而无需等待所有令牌达到高置信度。实验验证表明，早收敛令牌与最终正确令牌之间具有高度一致性，保证了早期解码的可靠性。
在多个领域的基准测试中，LEAP展示了显著的性能提升。与传统的置信度基准解相比，使用LEAP后平均去噪步数减少了约30%。在数学推理数据集GSM8K上，将LEAP与现有的dParallel方法结合，解码速度提升至每秒7.2个令牌，同时保持了模型精度。这一成果不仅直接降低了推理延迟，还挑战了“高置信度是保证准确性的必要条件”这一传统观念，为并行解码开辟了新范式。LEAP的研究表明，通过更精细的令牌级分析和上下文感知的检测策略，可以更早地释放并行潜力，而无需牺牲生成质量。未来，该工作有望在实时应用和大规模部署中发挥重要作用。