近日,一篇题为《模型是否共享安全表征?面向安全视觉生成的跨模型引导》的论文以预印本形式发布(arXiv:2606.05290),作者为Tobia Poppi等共八位研究者,提交时间为2026年6月3日。该研究属于计算机视觉与模式识别(cs.CV)方向,同时涉及人工智能(cs.AI)与多媒体(cs.MM)领域,全文约36MB,并提供项目主页链接。
论文关注的核心问题是:随着生成式建模的快速进步,安全控制已成为一项中心挑战,但现有方法大多局限于特定模型,每出现一种新架构就需要重新训练或设计专门的干预手段。作者由此提出一个更具普遍性的疑问——安全能否被表示为一个可移植的潜在方向,只需学习一次,便可在异构的生成器之间重复使用。
为回答这一问题,研究团队提出了首个跨模型安全引导框架。其流程分为三步:首先在源大型语言模型中,利用成对的安全提示与不安全提示估计出一个安全方向;随后通过仅在有良性数据上拟合的轻量级对齐模块,将该方向迁移到目标生成器;最后在推理阶段施加该方向以实现安全控制。作者特别强调,整个流程在目标模型一侧从不接触任何不安全数据,从而能够纯粹地检验安全性能否通过共享的表征几何结构进行迁移。
除单一的全局方向外,论文还提出了多向量扩展方案,用以捕捉不同类别特有的安全行为,从而实现更具选择性的控制。作者在文本到图像生成和文本到视频生成两类任务上,跨越多种源模型与目标模型的组合进行了评估。
实验结果显示,迁移得到的安全方向在攻击成功率(ASR)的降低幅度以及CLIP分数与FID的权衡方面,与直接在目标模型上使用不安全数据学习得到的方向表现相当,同时完全不需要目标侧的不安全数据。这表明安全性的提升并未以牺牲生成质量为代价。
作者据此提出一种模块化的安全观:与安全相关的行为并非完全局限于单个模型内部,而是可以通过在模型之间持续存在的潜在方向加以控制。这一发现指向一条新路径——构建轻量、可复用的安全机制,且无需依赖目标侧的不安全数据。论文同时给出了引用信息与DOI,并标注该DOI尚待DataCite注册。