AI News HubLIVE
站内改写1 分钟阅读

AniGS:融合渲染与扩散先验的3D场景动画技术

AniGS是一种针对大规模3D高斯泼溅重建场景的动画方法,通过添加微妙的动态效果(如植被摆动)同时保持刚性结构,利用时间条件变形场和预训练视频扩散模型,结合迭代数据集-模型更新策略与组合视频到视频细化方案,实现了自然的环境动态和高质量的新视角视频。

来源arXiv Computer Vision作者: Yen-Chi Cheng, Chen Gao, Chuhan Chen, Tuotuo Li, Rajvi Shah, Ayush Saraf, Changil Kim, Liangyan Gui, Alexander Schwing, Johannes Kopf, Hung-Yu Tseng

近年来,大规模复杂场景的新视角渲染技术取得了显著进展,生成的图像日益逼真。然而,大多数重建结果仍然是静态的,缺乏使环境真正沉浸的细微动态效果。AniGS(Animation of Gaussian Splatting)正是为应对这一挑战而提出的方法,它是一种针对3D高斯泼溅(3DGS)重建的场景级动画技术,能够为大型、杂乱且可自由导航的3D场景添加微妙且分布式的动态效果,例如植被随风摆动,同时严格保留场景中刚性结构的稳定性。

与现有3D动画方法不同,现有技术往往局限于以物体为中心或小区域的动画,而AniGS专门设计用于大规模、复杂、可自由探索的场景。该方法首先将场景表示为一个规范的3DGS模型,并构建一个时间条件变形场来建模运动。为了对整个场景进行动画处理,AniGS利用一个预训练的视频扩散模型作为运动先验,并创新性地引入了一种迭代数据集-模型更新策略。该策略逐步扩大训练视角的覆盖范围,并通过一个“渲染-细化”循环反复更新固定相机视角下的训练视频,从而不断提升动画的逼真度和一致性。此外,为了防止静态区域出现不期望的运动而产生视觉伪影,AniGS进一步设计了一种组合式视频到视频细化方案,将运动限制在用户指定的动态区域内,确保了场景中静止部分的纯净。

该方法的有效性在五个真实世界的大规模户外场景上得到了充分验证。实验结果表明,AniGS能够生成自然的动态效果和高质量的新视角视频,显著增强了重建环境的沉浸式观看体验。与现有的基线方法相比,AniGS在运动自然度、视觉质量和视角一致性方面均表现出色。该技术的提出为3D场景动画领域开辟了新的可能性,尤其适用于虚拟现实、游戏开发、电影制作以及数字孪生等需要高度沉浸和动态环境的场景。作者团队已公开项目页面,并计划在未来工作中探索更复杂的运动模式和实时应用。