フローマッチング(Flow Matching)は新しい生成モデルのパラダイムであり、そのサンプリングプロセスは常微分方程式(ODE)を解く必要があり、計算コストの大半はニューラルネットワークの順伝搬に起因します。最近、arXiv(arXiv:2605.00836)に投稿された論文では、さまざまなODEソルバーをフローマッチングモデルで系統的に調査しています。
著者らはテイラー展開の第一原理から4つの古典的ソルバー(オイラー法、陽的中点法、古典的ルンゲ=クッタ法RK4、ドーマンド=プリンス5(4)法)を導出し、PyTorchでゼロから実装しました。条件付きフローマッチングタスク(2Dおもちゃ分布からMNIST数字まで)でベンチマークを行い、スライスWasserstein距離を用いて関数評価回数(NFE)と品質のパレートフロンティアを構築しました。
その結果、RK4は80回の関数評価でオイラー法200回と同等のサンプル品質を達成し、効率が2.5倍向上することがわかりました。さらに、2つの重要な経験的観察を報告しています:(1) 学習された速度場のヤコビアン固有値スペクトルがt=1付近で急激に硬化(stiffen)するため、適応的ドーマンド=プリンスソルバーが自動的に軌道終端にステップ予算を集中させること;(2) 未学習のモデルや小規模モデルでは低次と高次のソルバーの品質差が拡大し、モデルが不完全なほどソルバー選択が重要になること。
この研究はフローマッチングモデルのサンプリング効率向上に実用的な指針を提供します。コードと実験スクリプトはすべて公開されています。