擴散大語言模型（dLLM）是一種基於擴散過程的新型語言模型，其推理效率受到兩個主要問題的制約。首先，雙向注意力機制雖然有助於模型理解上下文，但卻使得KV緩存的重複利用變得低效。其次，為了提升解碼速度，現有的方法通常採用靜態置信度閾值來增加並行解碼的令牌數，但這往往以犧牲生成質量為代價。來自研究團隊的觀察發現，這兩個問題實際上源於同一個根本原因：在解碼過程中，令牌通過雙向注意力不斷整合上下文信息，導致其表示隨着解碼步驟的推移而發生漂移（即進化）。基於這一重要洞察，Mingyu Lee及其合作者提出了Polestar，這是一個無需額外訓練的推理框架，它利用令牌表示漂移作為統一的信號來同時優化緩存效率和解碼並行性。
Polestar由兩個核心組件構成。第一個組件是Polestar-Cache，它通過監測令牌表示的漂移程度來識別KV緩存中哪些位置已經過時，然後僅對這些位置進行稀疏刷新，從而顯著提升緩存重用的效率。第二個組件是Polestar-Commit，它能夠檢測到劇烈的漂移事件，並據此可靠地判斷哪些令牌已經準備就緒，可以被提交（commit）為最終輸出，從而在不影響生成質量的前提下增加解碼的並行度。在多個dLLM家族的數學推理和代碼生成基準測試中，Polestar在準確率與吞吐量的帕累託前沿上取得了新的最優結果。具體而言，與現有基線方法相比，Polestar實現了最高10.73%的準確率提升，吞吐量提升高達3.7倍，並且每次前向傳播可以並行解碼3.67個令牌。
該研究成果以論文形式於2026年5月7日提交至arXiv預印本平台，編號為2607.14107，歸屬於計算與語言（cs.CL）和人工智能（cs.AI）領域。Polestar框架的一個顯著優勢在於它無需任何額外的訓練步驟，可以直接應用於現有的擴散大語言模型，為提升這類模型的推理效率提供了一種實用且高效的解決方案。這一工作不僅從理論上揭示了令牌表示漂移在模型推理中的關鍵作用，也為未來更高效的語言模型推理系統設計指明瞭新的方向。