最新の研究により、Stable Diffusionモデルにおける記憶化（memorization）の予期せぬメカニズムが明らかになりました。韓国科学技術院（KAIST）の研究者らは、この現象がプロンプト自体ではなく、CLIPテキストエンコーダ内の特定の埋め込みベクトルによって引き起こされることを発見しました。論文「Memorization In Stable Diffusion Is Unexpectedly Driven by CLIP Embeddings」はCVPR 2026 Findingsに採択され、2026年4月6日にarXivに提出されました。
研究チームはCLIP埋め込みを系統的に分析し、入力トークンを開始トークン（sot）、プロンプト（pr）、終端トークン（eot）、パディング（pad）の4カテゴリに分類し、それぞれ対応する埋め込みベクトルv_sot、v_pr、v_eot、v_padを定義しました。驚くべきことに、記憶化が発生する場合、プロンプト埋め込み（v_pr）の生成への寄与はごくわずかであるのに対し、パディング埋め込み（v_pad）が強い影響を示すことが判明しました。さらに分析を進めると、パディング埋め込みが記憶を引き起こす理由は、構造的に終端トークン埋め込み（v_eot）を複製しているためであることがわかりました。CLIPの訓練中、v_eotのみが明示的に最適化される唯一の埋め込みであるため、パディング埋め込みによる複製がv_eotの影響力を意図せず増幅し、モデルが単一の埋め込みに過度に依存することで訓練データの特定画像を記憶・再現するに至ります。
この発見に基づき、研究者らは2つのシンプルで効果的な推論時軽減戦略を提案しています。1つ目は、トークナイザのデフォルトのパディングトークンを感嘆符（!）に置き換え、v_eotをマスクする方法。2つ目は、v_padを部分的にマスクする方法です。実験では、これらの手法が生成品質を低下させることなく記憶化を大幅に抑制できることが示されました。さらに、これらの戦略は事前に記憶化サンプルを検出する必要がなく、既存のシステムに直接導入可能で、再訓練は不要です。
本研究は、テキストから画像を生成する拡散モデルにおける記憶化の理解に新たな理論的視点を提供するとともに、モデルの安全性と解釈可能性を向上させる実用的なツールを提供します。生成AIの普及に伴い、記憶化の制御はプライバシー保護とデータ漏洩防止にとってますます重要になっています。研究コードはオープンソースとして公開されており、コミュニティによる再現とさらなる探求が容易になっています。