擴散語言模型（Diffusion Language Models, dLLMs）因其在高度並行處理方面的潛力而受到廣泛關注。與自迴歸模型逐步生成不同，dLLMs透過迭代去噪過程同時生成多個令牌，從而有望大幅提升解碼速度。然而，現有dLLMs的並行能力依賴於條件獨立假設，該假設要求模型在解碼時對每個令牌具有高置信度，以確保邊際分佈與聯合分佈之間的差異可忽略不計。這種嚴格的置信度閾值雖然保證了生成質量，但嚴重限制了並行解碼的擴充套件性——因為只有少數令牌能在早期滿足高置信度條件，大部分令牌仍需逐步去噪，導致並行優勢無法充分發揮。
為了解決這一問題，Haohui Zhang等研究者對令牌級動態進行了系統的統計分析。他們發現，在去噪過程中，相當大比例的令牌在早期迭代中就已經收斂到了正確的預測結果，但它們的置信度分數卻遠低於標準閾值。這表明現有的置信度標準過於保守，錯失了提前解碼的機會。基於這一洞察，團隊提出了LEAP（Lookahead Early-Convergence Token Detection for Accelerated Parallel Decoding）方法。
LEAP是一種無需訓練、即插即用的技術，核心思想是識別那些儘管置信度不高但實際上已經正確收斂的令牌。它透過兩種機制實現：一是利用未來上下文過濾，即參考後續去噪步驟中的資訊來驗證當前令牌的收斂性；二是採用多序列疊加，透過比較多個獨立去噪序列中令牌的一致性來增強檢測可靠性。LEAP首先檢測出早收斂令牌，然後允許它們提前解碼，而無需等待所有令牌達到高置信度。實驗驗證表明，早收斂令牌與最終正確令牌之間具有高度一致性，保證了早期解碼的可靠性。
在多個領域的基準測試中，LEAP展示了顯著的效能提升。與傳統的置信度基準解相比，使用LEAP後平均去噪步數減少了約30%。在數學推理資料集GSM8K上，將LEAP與現有的dParallel方法結合，解碼速度提升至每秒7.2個令牌，同時保持了模型精度。這一成果不僅直接降低了推理延遲，還挑戰了“高置信度是保證準確性的必要條件”這一傳統觀念，為並行解碼開闢了新正規化。LEAP的研究表明，透過更精細的令牌級分析和上下文感知的檢測策略，可以更早地釋放並行潛力，而無需犧牲生成質量。未來，該工作有望在即時應用和大規模部署中發揮重要作用。