熵既能流動，也能引導：LEDFlow 將熵引導的生成順序引入均勻離散流

arXiv 在 2026 年 9 月 20 日 19:34:30 UTC 收到編號為 arXiv:2609.25131v1 的論文，標題為《Entropy Can Flow, or It Can Guide. Be Entropy. LEDFlow: Introducing Entropy-guided Generation Order into Uniform Discrete Flow》，分類為機器學習 cs.LG，DOI 為 https://doi.org/10.48550/arXiv.2609.25131。作者是 Tung Sum Thomas Kwok、Yidong Ouyang、Yingjia Wan、Ying Nian Wu、Zhijiang Guo 和 Oscar Leong。論文關注均勻離散流：它允許在每個生成位置反覆更新。持續修正能改掉錯誤 token，但也會把原本正確的中間預測暴露給後續錯誤。作者在一個數獨實驗中發現，9.4% 的生成單元格在中間步驟正確，卻在最終輸出中變成錯誤。為解決這一矛盾，論文把生成順序引入均勻離散流，採用選擇性吸收：固定被選中的預測，同時在活躍位置保留均勻流速度。為避免吸收錯誤預測，作者提出 Low-Entropy Discrete Flow（LEDFlow），一種無需訓練的採樣器，按局部熵自適應地決定吸收順序。他們把吸收誤差分解為聯合依賴項與條件預測項，並證明在固定吸收預算下，選擇最低熵位置可最小化條件項的上界。論文還支持使用局部熵：在不完美去噪器下，全局前瞻的決策誤差上界會隨着前瞻窗口增大而增大。實驗方面，LEDFlow 在 Nikoli 數獨上達到 0.845 求解準確率，在強約束任務上增益最大；在文本到圖像生成上取得最佳綜合得分；在多模態理解上，於六個基準全部優於原生採樣器，推理成本與標準流採樣相當。論文頁面還列出 PDF、實驗性 HTML、TeX 源碼、許可證、NASA ADS、Google Scholar、Semantic Scholar、Connected Papers、Litmaps、scite、alphaXiv、CatalyzeX、DagsHub、Hugging Face、ScienceCast、Replicate、Hugging Face Spaces、TXYZ.AI、CORE、IArxiv、Influence Flower 等入口，以及 arXivLabs 説明。提交歷史只有 v1：2026 年 9 月 20 日星期日 19:34:30 UTC，文件 825 KB。需要注意，數獨 9.4% 是特定實驗觀察；理論部分依賴固定吸收預算、不完美去噪器和誤差分解假設；LEDFlow 免訓練、推理成本相當等結論仍需結合具體基準、實現與評測設置理解。