2026年6月15日、Rohit Kundu氏ら5名の著者により、arXivに「Pulling The REINS: Training-Free Safety Alignment of Video Diffusion Models via Representation Steering」という論文が提出されました（論文ID：2606.17257）。この研究では、REINS（REpresentation-space INference-time Safety steering）と呼ばれる、訓練を必要としないビデオ拡散モデルの安全アライメント手法が提案されています。
オープンウェイトのビデオ拡散モデルは、暴力や誤情報などの非現実的な不安全コンテンツを生成できるため、安全上の懸念が高まっています。既存の防御策は、高価な安全ファインチューニングを必要とし一般性能を低下させるか、敵対的プロンプトで容易に回避される外部フィルターに依存していました。REINSは、推論時にモデルの内部表現を安全な生成へと導くことで、これらの問題を解決します。重みの更新や概念の列挙は一切不要で、計算オーバーヘッドは無視できるほどです。
本研究の重要な発見は、安全に関連する構造がビデオ拡散トランスフォーマーの隠れ状態活性化に線形にエンコードされていることです。教師あり主成分分析（Supervised PCA）をバイナリ安全ラベルに適用することで、安全と不安全の生成軌跡を分離する単一の方向を発見できます。推論時には、この方向を中間トランスフォーマー層の隠れ状態に加算するだけで、有害コンテンツから意味的に関連する安全な代替生成へと誘導できます。
メカニズム分析により、安全情報はトランスフォーマーの深さとともに単調に蓄積されますが、ステアリング効果は中間層（深さ約50%）で最大となることが明らかになりました。これは、情報の利用可能性と下流への伝播能力の間の基本的なトレードオフを示しています。初期層では情報が十分に蓄積されておらず、深層では情報は豊富ですが出力に伝播する能力が低下するため、中間層が最適な介入点となります。
REINSは、9つのビデオ拡散モデル、複数のパラメータ規模（1.3B〜5B）、テキストからビデオおよび画像からビデオ生成の両方で評価されました。著者らによれば、これはビデオ生成文献において最も広範な安全性評価スイートです。実験結果は、REINSが生成品質を維持しながら不安全コンテンツの生成を効果的に低減することを示しています。この手法は、ビデオ拡散モデルの安全な展開に向けた実用的で効率的なソリューションを提供します。