跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

CoMoGen:基于掩码引导视频生成的可控运动动力学与交互

文章摘要

CoMoGen 是一个可控视频生成框架,仅需单张输入图像和一段二值掩码序列,即可生成逼真的交互动态。它通过轻量级 MaskAdapter 将掩码编码为潜在残差信号,并以余弦加权调度注入多模态扩散 Transformer(MMDiT),同时提出在注意力空间中识别“运动层”并用 LoRA 微调,避免改动模型架构,降低计算成本,在运动保真度和感知真实感上达到领先水平。

来源arXiv Computer Vision作者: Adil Meric, Lin Geng Foo, Mert Kiray, Benjamin Busam, Rishabh Dabral, Christian Theobalt
CoMoGen:基于掩码引导视频生成的可控运动动力学与交互
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

CoMoGen 是 Adil Meric 等六位作者于 2026 年 5 月 21 日提交到 arXiv 的一项新研究,属于计算机视觉与模式识别方向。该工作提出一个可控视频生成框架,目标是从一张输入图像和一段二值掩码序列出发,生成具有真实交互动态的视频。与依赖复杂运动标注或额外控制信号的方法不同,CoMoGen 只使用单张图像和简单的二值掩码序列作为条件,就能精确控制主体的运动,并让主体与周围的人物、物体和场景产生合理的互动。

方法上的核心设计是一个轻量级 MaskAdapter。它把二值掩码序列编码成潜在残差信号,再通过余弦加权调度注入到多模态扩散 Transformer(MMDiT)模型中。这种注入方式不改变原有生成主干,却能把掩码中蕴含的空间运动信息逐步引入扩散过程,从而在保持生成质量的同时实现运动控制。

研究团队特别讨论了 MMDiT 与 UNet 架构的差异。UNet 采用从粗到细的分层设计,不同层级的职责相对明确;而 MMDiT 由一系列结构统一的 Transformer 块组成,很难直接判断哪些层真正负责运动生成。为此,作者提出一种新方法,在 MMDiT 的注意力空间中定位所谓的“运动层”。确定这些层之后,他们仅对运动层应用低秩适配(LoRA)进行微调,而不对 MMDiT 做任何架构改动。这种选择性适配让训练聚焦于对运动至关重要的组件,显著降低了计算成本。

尽管设计简洁,CoMoGen 在效果上并不妥协。它能够实现精确的主体运动,并生成主体与周围人类、物体和场景之间可信的交互。作者在多个数据集上进行了综合实验,结果显示 CoMoGen 在运动保真度和感知真实感方面持续优于此前的可控视频生成方法,并达到当前领先水平。论文还提供了项目主页,便于查看生成效果和更多细节。

从研究意义上看,CoMoGen 的价值在于用极简的控制接口——单张图像加二值掩码序列——换取了较强的运动可控性,同时通过定位运动层和 LoRA 微调避免了高昂的架构改动与训练开销。这为可控视频生成提供了一条轻量且有效的技术路线,也为后续在更复杂交互场景中的运动控制研究提供了参考。

展开要点与分析

文章情报

工程师进阶

要点

  • CoMoGen 以单张图像和二值掩码序列为条件,生成可控的交互视频动态。
  • MaskAdapter 将掩码序列编码为潜在残差,通过余弦加权调度注入 MMDiT。
  • 在 MMDiT 注意力空间中定位“运动层”,仅用 LoRA 微调这些层,无需改变架构并降低计算成本。
  • 实验表明其在运动保真度和感知真实感上持续优于已有可控视频生成方法。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。