エントロピーは流れることも、導くこともできる——LEDFlow：一様離散フローにエントロピー誘導の生成順序を導入

arXiv は 2026年9月20日 19:34:30 UTC に、arXiv:2609.25131v1 として論文「Entropy Can Flow, or It Can Guide. Be Entropy. LEDFlow: Introducing Entropy-guided Generation Order into Uniform Discrete Flow」を受理した。分類は機械学習 cs.LG、DOI は https://doi.org/10.48550/arXiv.2609.25131。著者は Tung Sum Thomas Kwok、Yidong Ouyang、Yingjia Wan、Ying Nian Wu、Zhijiang Guo、Oscar Leong。論文は一様離散フロー（uniform discrete flow）を扱う。これは各生成位置で繰り返し更新を許す手法であり、継続的な修正は誤ったトークンの訂正に役立つ一方、正しい中間予測を後続の誤りにさらす。数独パズル実験では、生成セルの 9.4% が中間ステップでは正しいが最終出力では誤りになることが示された。そこで著者らは生成順序を一様離散フローに導入し、選択的吸収（selective absorption）を提案する。これは選ばれた予測を固定しつつ、アクティブ位置では一様フローの速度を保つ。誤った予測を吸収しないために、Low-Entropy Discrete Flow（LEDFlow）を提案する。これは学習不要のサンプラーで、局所エントロピーに基づいて吸収順序を適応的に決める。吸収誤差を結合依存項と条件付き予測項に分解し、固定吸収予算の下で最低エントロピー位置を選ぶことが条件項の上界を最小化することを示す。さらに、不完全なデノイザーの下では大域ルックアヘッドの決定誤差上界がルックアヘッド窓の増大とともに大きくなることを示し、局所エントロピー選択を裏付ける。推論ベンチマークでは LEDFlow が Nikoli 数独で 0.845 の求解精度を達成し、強く制約されたタスクで最大の改善を示す。テキストから画像生成では総合スコアが最良で、マルチモーダル理解では 6 つのベンチマークすべてでネイティブサンプラーを上回り、推論コストは標準フローサンプリングと同程度である。論文ページには PDF、実験的 HTML、TeX ソース、ライセンス、NASA ADS、Google Scholar、Semantic Scholar、Connected Papers、Litmaps、scite、alphaXiv、CatalyzeX、DagsHub、Hugging Face、ScienceCast、Replicate、Hugging Face Spaces、TXYZ.AI、CORE、IArxiv、Influence Flower などのリンク、および arXivLabs の説明がある。投稿履歴は v1 のみで、2026年9月20日 19:34:30 UTC、825 KB。注意点として、数独の 9.4% は特定実験の観察であり、理論は固定吸収予算、不完全デノイザー、誤差分解の仮定に依存する。LEDFlow が学習不要で推論コストが同等という主張も、ベンチマーク、実装、評価設定と合わせて解釈する必要がある。