CoMoGen 是 Adil Meric 等六位作者于 2026 年 5 月 21 日提交到 arXiv 的一项新研究,属于计算机视觉与模式识别方向。该工作提出一个可控视频生成框架,目标是从一张输入图像和一段二值掩码序列出发,生成具有真实交互动态的视频。与依赖复杂运动标注或额外控制信号的方法不同,CoMoGen 只使用单张图像和简单的二值掩码序列作为条件,就能精确控制主体的运动,并让主体与周围的人物、物体和场景产生合理的互动。
方法上的核心设计是一个轻量级 MaskAdapter。它把二值掩码序列编码成潜在残差信号,再通过余弦加权调度注入到多模态扩散 Transformer(MMDiT)模型中。这种注入方式不改变原有生成主干,却能把掩码中蕴含的空间运动信息逐步引入扩散过程,从而在保持生成质量的同时实现运动控制。
研究团队特别讨论了 MMDiT 与 UNet 架构的差异。UNet 采用从粗到细的分层设计,不同层级的职责相对明确;而 MMDiT 由一系列结构统一的 Transformer 块组成,很难直接判断哪些层真正负责运动生成。为此,作者提出一种新方法,在 MMDiT 的注意力空间中定位所谓的“运动层”。确定这些层之后,他们仅对运动层应用低秩适配(LoRA)进行微调,而不对 MMDiT 做任何架构改动。这种选择性适配让训练聚焦于对运动至关重要的组件,显著降低了计算成本。
尽管设计简洁,CoMoGen 在效果上并不妥协。它能够实现精确的主体运动,并生成主体与周围人类、物体和场景之间可信的交互。作者在多个数据集上进行了综合实验,结果显示 CoMoGen 在运动保真度和感知真实感方面持续优于此前的可控视频生成方法,并达到当前领先水平。论文还提供了项目主页,便于查看生成效果和更多细节。
从研究意义上看,CoMoGen 的价值在于用极简的控制接口——单张图像加二值掩码序列——换取了较强的运动可控性,同时通过定位运动层和 LoRA 微调避免了高昂的架构改动与训练开销。这为可控视频生成提供了一条轻量且有效的技术路线,也为后续在更复杂交互场景中的运动控制研究提供了参考。