跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

可靠性感知的单目深度监督用于稀疏视角神经重建

文章摘要

在自动驾驶场景中,稀疏视角神经重建面临挑战。本文提出使用Depth Anything V2作为单目深度先验,通过光度掩码选择性监督,提升Splatfacto模型的重建质量,PSNR从14.903提升至15.932,RMSE从0.542降至0.100,并表明增益来源于选择可靠的低误差区域。

来源arXiv Computer Vision作者: Wei-Teng Chu, Yashasvini Gopalan, Changju Yuan
可靠性感知的单目深度监督用于稀疏视角神经重建
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

近日,arXiv上发布了一篇题为《Reliability-Aware Monocular Depth Supervision for Sparse-View Neural Reconstruction》的研究论文,由Wei-Teng Chu等三位作者共同完成。该研究聚焦于自动驾驶户外场景中的稀疏视角神经重建问题。在自动驾驶场景中,相机通常沿狭窄的前向轨迹移动,导致多视角重叠有限,这使得基于稀疏视角的神经重建极具挑战性。虽然单目深度估计器能够提供密集的几何先验信息,但其预测存在噪声,且不同图像区域的可靠性并不一致。

针对这一难题,研究者提出了一种可靠性感知的单目深度监督策略。他们采用Depth Anything V2作为密集的单目深度先验,通过尺度-偏移拟合将其预测对齐到度量深度,并利用仅基于RGB的基线模型生成的光度掩码,选择性地施加深度监督。这种方法的核心在于,通过掩码筛选出可靠的低误差区域,从而避免不可靠深度预测对重建质量产生负面影响。

为了评估该方法的有效性,研究者选取了两种具有代表性的场景表示模型:Mip-NeRF-360和Splatfacto。在KITTI Seq02数据集的稀疏视角设定下(每两张图像选取一张),实验结果显示:对于Mip-NeRF-360,掩码单目深度监督仅带来微弱的渲染增益,并且未能改善度量几何;然而,对于Splatfacto,该策略带来了显著提升——PSNR从14.903提升至15.932,RMSE从0.542降低至0.100。进一步的KITTI Seq05实验以及匹配比率掩码消融研究表明,Splatfacto的增益确实来源于选择可靠的低误差区域,而非简单地减少深度监督像素的数量。

此外,研究者还在Bicycle场景上进行了实验。该场景中多视角覆盖已经较强,此时深度监督虽然能够改善几何形状,但会损害RGB渲染质量。这一发现表明,单目深度先验的适用性取决于具体场景条件。

综合所有实验结果,研究者得出重要结论:单目深度先验对于欠约束的稀疏视角重建是有用的,但必须选择性地应用,并采用适中的权重。该研究为自动驾驶场景下的神经重建提供了有价值的指导,即并非所有深度先验都同等可靠,通过可靠性感知的监督策略可以更有效地利用这些先验信息。论文共计10页,包含6张图表,所有作者贡献均等。

展开要点与分析

文章情报

工程师进阶

要点

  • 提出一种可靠性感知的单目深度监督方法,通过光度掩码选择可靠区域进行深度监督。
  • 在Splatfacto表示上取得显著提升,PSNR提高约1.03,RMSE降低约81.5%。
  • 实验证明增益来自选择可靠低误差区域,而非单纯减少监督像素。
  • 在强多视角覆盖场景下,深度监督可能改善几何但损害RGB质量。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。