生成モデルの安全制御は中心的な課題であり続けているが、既存のアプローチはほとんどがモデル固有であり、新しいアーキテクチャごとに再トレーニングや調整された介入が必要となる。Tobia Poppi氏ら8名によるarXiv論文「Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation」は、安全を一度学習すれば異種の生成器間で再利用できるポータブルな潜在方向として表現できるかという根本的な問いを投げかける。
この問いに答えるため、研究者らは初のクロスモデル安全ステアリングフレームワークを導入した。このフレームワークでは、まずソース大規模言語モデル（LLM）において、安全なプロンプトと不安全なプロンプトのペアから安全方向を推定する。次に、良性データのみで適合させた軽量なアライメントを通じて、この方向をターゲット生成器に転送し、推論時に適用する。重要な点は、パイプラインがターゲット側の不安全データに一切アクセスしないことである。これにより、安全が共有表現幾何学を通じて転送可能かどうかを隔離して検証できる。
単一のグローバル方向に加えて、論文はカテゴリ固有の安全行動を捉えるマルチベクトル拡張も提案しており、より選択的な制御を可能にする。研究者らはテキストから画像、テキストから動画への生成において、多様なソース-ターゲットモデルペアで評価を行った。その結果、転送された安全方向は、ターゲットモデル上で不安全データを用いてネイティブに学習した方向と同等の攻撃成功率（ASR）低減とCLIPスコア/FIDのトレードオフを達成し、しかもターゲット側の不安全データを必要としないことが示された。これは、安全の向上が生成品質を犠牲にしないことを意味する。
これらの結果は、安全関連の振る舞いが純粋にモデルローカルなものではなく、モデル間で持続する潜在方向を通じて制御できるというモジュール的な安全観を示唆している。これは、ターゲット側の不安全データを必要としない、軽量で再利用可能な安全メカニズムへの新たな道を開くものである。論文は2026年6月3日に提出され、プロジェクトページも公開されている。