拡散モデルの創造性の謎を解明

拡散モデルは、画像生成や分子発見など複雑な局所構造を必要とする生成タスクにおいて、現在最も強力なツールの一つである。訓練データを超えて汎化し、いわゆる「創造性」を示す。例えば、実際の画像データセットで訓練された後、ランダムノイズから新奇で高品質な画像を生成できる。この創造能力は印象的だが、どこから来るのかという興味深い疑問を提起する。この答えを理解することは、拡散ベース生成AIの「ブラックボックス」の本質を解明する重要なステップである。

そのために、ICLR 2026で発表された論文「On the Interpolation Effect of Score Smoothing in Diffusion Models」で、Google Researchのチームは拡散モデルの数学に深く踏み込み、この疑問に答えた。モデルの創造性は偶然ではなく、ニューラルネットワーク訓練が生成プロセス中にノイズからデータへの変換を自然に「平滑化」する結果であることを示した。

デノイジングの理解

拡散モデルの訓練は、実際の訓練データサンプル（猫の写真など）を意図的にノイズで破壊し、完全に認識できなくなることから始まる。その後、モデルはこの破壊を段階的に逆転させるように訓練され、純粋なノイズから現実的な画像を再構成する。このプロセスをデノイジングと呼ぶ。モデルが訓練サンプルのみに基づいてこのデノイジングプロセスを完全に学習した場合、デプロイ時にもそれらの正確なコピーを生成する（記憶として知られる行動）。このシナリオでは、モデルは新規出力を生成できる創造エンジンではなく、検索ツールとして機能する。しかし実際には、拡散モデルは通常、記憶以上のことを行い、新しいデータサンプルを生成するために汎化する。

拡散モデルが実際にデータをどのようにデノイジングするかを理解するために、ランダムノイズを部屋に散らばった気体粒子の雲として想像し、「力場」が各粒子を特定の方向に引っ張り、意味のある形状を形成するまで動かす。拡散モデルでは、動く粒子はデノイジングを受ける個々のデータ点である。「力場」はスコア関数（SF）であり、訓練データから学習され、任意の瞬間に粒子が流れるべき方向を決定する。モデルが訓練データから完全に学習されたスコア関数に依存する場合、力場は粒子を訓練データ点を正確に複製する位置に駆動する（すなわち記憶）。

拡散モデルの創造性：1次元の例

研究では、拡散モデルの創造性は実際にはニューラルネットワークが典型的に学習する近似の性質に由来することを発見した。正則化による不完全な訓練は、学習されたスコア関数に「スコア平滑化」と呼ばれるプロセスでわずかなぼやけを自然に引き起こす。これにより、デノイジングプロセスは訓練点の間を補間する（つまり、それらの間の空間に落ちる）データを生成し、新しいもっともらしいデータサンプルを作り出す。

1次元の世界で、訓練データ点が+1と-1の2つだけを想像する。デノイジングプロセスの後期段階では、「完全な」スコア関数は2点の中間で急激な符号変化を持つ曲線のように見え、0付近で引っ張り方向が急速に切り替わる。言い換えれば、空間全体がほぼ鋭く2つに分割され、左の粒子は-1に、右の粒子は+1に引っ張られる。最終的に、すべての粒子は2つの訓練データ点のいずれかに収束し、記憶が発生する。

しかし実際には、拡散モデルは「完全な」スコア関数にアクセスできず、ニューラルネットワークによって学習された近似バージョンを使用する。訓練中の重み減衰の正則化効果により、ニューラルネットワークはこのような急峻な崖を持つ関数を学習するのが困難である。代わりに、より滑らかな「完全な」スコア関数のバージョンを学習する傾向があり、急峻な下降を緩やかな勾配に軟化させる。これを説明するために、2層ReLUニューラルネットワークを訓練して1次元例のスコア関数を適合させる実験を行い、一般的なAdamWアルゴリズムで異なる重み減衰（WD）度合いの下でパラメータを最適化した。実験により、重み減衰が強いほど、中央領域で学習されたスコア関数が滑らかになり、その領域の粒子の流れが遅くなり、最終的に2つの訓練データ点間の「補間ゾーン」内で静止することが示された。論文では、ニューラルネットワーク正則化の関数空間理論とデノイジングの数学を組み合わせてこの関係を定量化している。さらに、重み減衰などの明示的な正則化戦略がなくても、勾配ベースアルゴリズムで訓練されたニューラルネットワークに見られる暗黙の正則化効果からスコア平滑化が生じることも実験で示されている。

スコア平滑化が多様体回復を促進

現実世界では、高解像度画像などの複雑なデータは単純な1次元世界ではなく、高次元ピクセル空間に存在する。しかし、その空間の大部分は人間の目には無意味なランダムノイズにすぎない。その空間のデータ点のごく一部だけが認識可能な画像に対応し、それらはデータ多様体（大きな空間の中に収められたシートのようなもの）と呼ばれるものに存在する。データ多様体の形状と位置はモデルには事前に知られていない。したがって、画像生成は多様体回復のタスクと見なすことができ、モデルはそこからサンプリングされた有限の訓練データに基づいて隠れたデータ多様体がどのように見えるかを推測し、多様体上の新しい点を考え出して、新奇で意味のある画像に対応させる必要がある。スコア平滑化が拡散モデルにとってこれを達成するために重要であることが判明した。

注目すべきことに、多次元設定では、スコア平滑化の効果は方向依存的に現れる。隠れたデータ多様体に平行（または「接線」）な方向に沿って、1次元シナリオと同様の減速効果を生じる。しかし、多様体を指す方向に沿っては、「完全な」スコア関数はすでに比較的滑らかであり（実際、多様体が平坦であれば直線である）、さらなる平滑化は大きな違いをもたらさない。したがって、スコア平滑化はあらゆる方向で粒子の流れにブレーキをかけるのではなく（そうするとノイズの多い空領域で停滞し、最終的な画像がぼやける原因となる）、接線方向に沿って訓練データに向かって崩壊する傾向を低減するだけである。このようにして、モデルは品質と新規性のバランスを達成する。画像は現実的に見え（意味のあるデータ多様体に正常に到達したため）、かつ新しい（元の訓練データ点間の空白スペースに落ち着いたため）。

結論

これらの発見は、拡散モデルの「創造性」と呼ばれるものが実際には予測可能な数学的結果である可能性を示唆している。ニューラルネットワークは決して「完全に」鋭くないため、既知のデータ間を補間する橋を作り出す。画像生成や創薬において、これは拡散モデルが示された2つの異なる猫画像や薬物分子を単に記憶するのではなく、それらの周囲の空間を探索し、両方の痕跡を組み合わせた第3の全く新しい画像や分子配置を提案することを意味する。

この研究はこのメカニズムを解明するための最初の取り組みにすぎず、データ分布やニューラルネットワークアーキテクチャがさらに複雑になった場合にどうなるかはまだ不明である。それでも、この振る舞いがニューラルネットワークの学習方法に根本的に根ざしていることを示すことで、より良い「補間器」となるモデルを意図的に構築し、盲目的記憶の落とし穴を避けながら創造エンジンであり続けることを保証し始めることができる。論文の図を生成するために使用された数値実験のコードも公開されている。