跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

Ground3D-LMM: 基於LMM的細粒度3D點雲定位與空間推理

文章摘要

Ground3D-LMM是一個統一模型,輸入點雲和可選RGB影像,支援具有明確點定位和度量輸出的3D空間對話。它定義了3D接地測量任務,並基於ScanNet構建了包含250萬問答對的大型資料集,為接地且度量感知的3D對話理解建立了強基線。

來源arXiv Computer Vision作者: Amol Harsh, Zongyan Han, Jean Lahoud, Ye Liu, Rao Muhammad Anwer, Hisham Cholakkal, Salman Khan, Fahad Khan
Ground3D-LMM: 基於LMM的細粒度3D點雲定位與空間推理
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

在3D環境理解領域,自然語言查詢的可操作性和可驗證性是關鍵挑戰。傳統的3D大型多模態模型(LMM)在對話時往往無法提供明確的3D定位,而專門的3D定位模型又缺乏互動式、帶度量輸出的對話能力。為解決這一矛盾,研究人員提出了Ground3D-LMM,這是一個統一的端到端模型,輸入點雲和可選的RGB影像,能夠進行3D空間對話,不僅輸出點級別的定位響應,還能提供物件和部件粒度的度量數值(如尺寸、厚度、間隙和距離),甚至支援多物件查詢。

為了評估定位與測量相結合的任務,該論文定義了3D接地測量(3D Grounded Measurement)任務,要求模型預測所指3D區域及其對應的真實世界度量值。在此基礎上,研究團隊基於ScanNet和ScanNet++資料集構建了一個大規模資料集,包含密集的物件和部件標註,以及約250萬個問答對,覆蓋八項不同任務,並提供了人工驗證的測試集。該資料集的體量和多樣性為後續研究提供了堅實的基準。

實驗表明,Ground3D-LMM在多個資料集和任務上均表現出強勁的效能,尤其是在需要同時進行定位和度量的場景中。該模型為接地且度量感知的3D對話理解設立了新的基線。目前,程式碼、模型和資料集均已公開,供學術界和工業界進一步探索和應用。

展開要點與分析

文章情報

工程師進階

要點

  • Ground3D-LMM統一了3D定位和度量感知對話功能。
  • 支援物件和部件級別的點定位響應及度量數值輸出。
  • 新提出的3D接地測量任務及包含250萬問答對的資料集。
  • 在多個資料集和任務上展示了強勁效能。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。