arXiv に投稿された論文 FlowLM は、拡散言語モデルを効率的な少数ステップ生成モデルへ作り替える手法を提示している。著者は Runzhe Zhang 氏ら 5 名で、2026 年 4 月 6 日に提出され、計算と言語（cs.CL）および人工知能（cs.AI）の分野に分類されている。全文は 26 ページ、図 11 点で構成される。
拡散言語モデルの大きな課題はサンプリング効率である。拡散過程は曲がった軌跡に沿って徐々にノイズを除去するため、高品質なテキストを得るには多数のサンプリングステップを要する。論文が比較対象として挙げるのは 2000 ステップの拡散サンプリングであり、ステップ数の多さは推論コストの高さとして実運用上の障害になる。FlowLM の発想は、新しいモデルをゼロから学習するのではなく、既存の事前学習済み拡散言語モデルを効率的にファインチューニングしてフローマッチングモデルへ変換することにある。
中心となる操作は軌跡の再整列である。拡散モデルが持つ曲がったサンプリング経路を、ほぼ直線的なフローへと調整し直す。直線フローではノイズからデータへの経路が短く直接的になるため、ごく少ないサンプリングステップでも高い品質を維持した生成が可能になる。著者によれば、この少数ステップ生成の品質は 2000 ステップの拡散サンプリングに匹敵し、場合によってはそれを上回る。しかも変換に必要な学習エポックはごくわずかで済むという。
論文では二つの学習経路も比較している。一つは事前学習済み拡散モデルを FlowLM へファインチューニングする方法、もう一つはフローマッチングモデルをゼロから学習する方法である。結果として、ファインチューニング版は半分の学習エポックで性能が飽和し、両者はいずれも元の拡散モデルを大きく上回った。この比較は、拡散からフローへの適応が有効であることと、既存の事前学習重みを活用することで学習予算を大幅に節約できることを同時に示している。
学習目的についても、著者はより効果的だと考えるフローマッチングの目的関数を検証している。それはクリーンなデータを直接予測するというものである。ノイズや中間的な速度場を当てはめる代わりにクリーンなデータを予測することで、サンプリング過程を真のデータ分布へ継続的に導き、生成品質を高められる。この知見は今後のフローマッチング言語モデルの設計に参考になる。
総じて FlowLM の意義は、二つの手法の利点を組み合わせた点にある。拡散言語モデルの事前学習成果を引き継ぎつつ、フローマッチングの直線軌跡によって少数ステップのサンプリング能力を得る。実験結果は、高品質かつ少数ステップのテキスト生成に対する有効性を裏付けている。ただし本稿は現時点では概要と実験結果が中心であり、具体的なベンチマーク、モデル規模、推論の高速化幅といった詳細は全文を参照する必要がある。