語義3D高斯體素是一種緊湊的表示方法,透過將語義基元渲染到體素體積中,並在體素級別進行監督,來實現3D語義佔據預測。近年來,研究人員透過採用更靈活的基元形狀、幾何引導的初始化和漸進密集化等技術,不斷提升這一表示的建模能力和效率。然而,這些進展主要關注基元的表示、初始化或新增方式,並未明確解決當為了控制記憶體和計算而限制高斯體素總數時,如何選擇最有用的高斯體素。這種不均衡導致了分配瓶頸:簡單區域中存在多餘的高斯體素,而困難區域則缺乏足夠的語義支援。
為了克服這一挑戰,研究者提出了語義高斯分配變換器(SAGFormer)。SAGFormer利用高斯體素的屬性以及區域性幾何語義特徵,對候選高斯體素進行評分,並從固定數量的候選中選擇最終的高斯體素集。在nuScenes-SurroundOcc和SSCBench-KITTI-360資料集上的實驗表明,SAGFormer在評估協議下顯著改善了佔據預測,並生成了語義更一致、利用率更高的高斯體素表示。與具有相似最終數量和原始覆蓋率的基線方法相比,SAGFormer有效減少了語義混合,增強了類別一致的體素支援,並減少了未使用的高斯體素數量。
這項研究的重要性在於,它首次明確將容量分配作為高斯體素細化在語義佔據預測中的有效補充。透過顯式地管理高斯體素的分配,SAGFormer不僅提升了預測精度,還最佳化了計算資源的使用。該方法的成功預示著向更高效、更智慧的3D環境感知邁出了堅實的一步,尤其對於自動駕駛等要求高精度和即時性的應用場景具有重要價值。未來的工作可以進一步探索如何將SAGFormer與其他先進技術結合,以應對更加複雜的場景和任務。
具體而言,SAGFormer首先對初始的高斯體素進行特徵提取,然後利用基於Transformer的架構對這些特徵進行互動和評分。評分機制綜合考慮了高斯體素自身屬性(如位置、協方差、語義機率)和其鄰域的幾何結構及語義資訊。這樣能夠有效識別並保留那些對最終佔據預測貢獻最大的高斯體素。實驗結果顯示,在nuScenes-SurroundOcc資料集上,SAGFormer在交併比(IoU)和語義分割精度等指標上均取得了明顯提升。在SSCBench-KITTI-360資料集上,該方法同樣展現出優越效能,特別是在道路、車輛等關鍵類別上。此外,定性分析表明,SAGFormer生成的高斯體素分佈更加緊湊,減少了在空曠區域的不必要聚集,同時增強了目標邊界附近的語義一致性。這些發現不僅證實了顯式容量分配的有效性,也為未來的研究提供了新的方向。論文作者來自多個機構,包括學術界和工業界,該工作已在arXiv上發表,並提供了預印本供進一步研究參考。
綜上所述,SAGFormer透過解決分配瓶頸,為3D語義佔據預測領域帶來了重要進展。它透過引入一種可學習的評分和選擇機制,使得在有限的資源下能夠最大限度地利用高斯體素的表達能力。這一思想可以類比於注意力機制,但更側重於資源的有效分配。未來,該方法有望與更復雜的基元型別或動態數量調整策略相結合,進一步提升效能和適應性。