跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

可靠性感知的單目深度監督用於稀疏視角神經重建

文章摘要

在自動駕駛場景中,稀疏視角神經重建面臨挑戰。本文提出使用Depth Anything V2作為單目深度先驗,通過光度掩碼選擇性監督,提升Splatfacto模型的重建質量,PSNR從14.903提升至15.932,RMSE從0.542降至0.100,並表明增益來源於選擇可靠的低誤差區域。

來源arXiv Computer Vision作者: Wei-Teng Chu, Yashasvini Gopalan, Changju Yuan
可靠性感知的單目深度監督用於稀疏視角神經重建
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近日,arXiv上發佈了一篇題為《Reliability-Aware Monocular Depth Supervision for Sparse-View Neural Reconstruction》的研究論文,由Wei-Teng Chu等三位作者共同完成。該研究聚焦於自動駕駛户外場景中的稀疏視角神經重建問題。在自動駕駛場景中,相機通常沿狹窄的前向軌跡移動,導致多視角重疊有限,這使得基於稀疏視角的神經重建極具挑戰性。雖然單目深度估計器能夠提供密集的幾何先驗信息,但其預測存在噪聲,且不同圖像區域的可靠性並不一致。

針對這一難題,研究者提出了一種可靠性感知的單目深度監督策略。他們採用Depth Anything V2作為密集的單目深度先驗,通過尺度-偏移擬合將其預測對齊到度量深度,並利用僅基於RGB的基線模型生成的光度掩碼,選擇性地施加深度監督。這種方法的核心在於,通過掩碼篩選出可靠的低誤差區域,從而避免不可靠深度預測對重建質量產生負面影響。

為了評估該方法的有效性,研究者選取了兩種具有代表性的場景表示模型:Mip-NeRF-360和Splatfacto。在KITTI Seq02數據集的稀疏視角設定下(每兩張圖像選取一張),實驗結果顯示:對於Mip-NeRF-360,掩碼單目深度監督僅帶來微弱的渲染增益,並且未能改善度量幾何;然而,對於Splatfacto,該策略帶來了顯著提升——PSNR從14.903提升至15.932,RMSE從0.542降低至0.100。進一步的KITTI Seq05實驗以及匹配比率掩碼消融研究表明,Splatfacto的增益確實來源於選擇可靠的低誤差區域,而非簡單地減少深度監督像素的數量。

此外,研究者還在Bicycle場景上進行了實驗。該場景中多視角覆蓋已經較強,此時深度監督雖然能夠改善幾何形狀,但會損害RGB渲染質量。這一發現表明,單目深度先驗的適用性取決於具體場景條件。

綜合所有實驗結果,研究者得出重要結論:單目深度先驗對於欠約束的稀疏視角重建是有用的,但必須選擇性地應用,並採用適中的權重。該研究為自動駕駛場景下的神經重建提供了有價值的指導,即並非所有深度先驗都同等可靠,通過可靠性感知的監督策略可以更有效地利用這些先驗信息。論文共計10頁,包含6張圖表,所有作者貢獻均等。

展開要點與分析

文章情報

工程師進階

要點

  • 提出一種可靠性感知的單目深度監督方法,通過光度掩碼選擇可靠區域進行深度監督。
  • 在Splatfacto表示上取得顯著提升,PSNR提高約1.03,RMSE降低約81.5%。
  • 實驗證明增益來自選擇可靠低誤差區域,而非單純減少監督像素。
  • 在強多視角覆蓋場景下,深度監督可能改善幾何但損害RGB質量。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。