跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

VLADriver-RAG:面向自動駕駛的檢索增強視覺-語言-動作模型

文章摘要

研究人員提出了VLADriver-RAG框架,透過檢索增強生成技術提升自動駕駛中視覺-語言-動作模型的長尾場景泛化能力。該框架將感測器輸入抽象為時空語義圖以過濾視覺噪聲,並利用場景對齊嵌入模型優先匹配拓撲結構一致性,最終在Bench2Drive基準上實現了89.12的駕駛得分,創下新紀錄。

來源arXiv Computer Vision作者: Rui Zhao, Haofeng Hu, Zhenhai Gao, Jiaqiao Liu, Gao Fei
VLADriver-RAG:面向自動駕駛的檢索增強視覺-語言-動作模型
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

自動駕駛技術近年來發展迅速,但端到端模型在罕見的長尾場景中仍面臨泛化挑戰。視覺-語言-動作(VLA)模型雖然展現潛力,卻受限於隱式引數知識,難以應對多樣化駕駛情境。檢索增強生成(RAG)透過引入外部專家知識提供了改進方向,但傳統的視覺檢索方式存在延遲高、語義模糊等問題。

針對這些難題,研究團隊提出了VLADriver-RAG框架。該框架的核心創新在於將感測器資料抽象為時空語義圖,透過“視覺到場景”機制有效濾除視覺噪聲,將低層感知資訊轉化為高層語義結構。在檢索環節,團隊設計了場景對齊嵌入模型,利用圖動態時間規整(Graph-DTW)度量,優先關注場景的拓撲結構一致性,而非表面的視覺相似性,從而提升檢索的準確性和相關性。

檢索到的專家先驗知識隨後被融合到基於查詢的VLA骨幹網路中,用於生成精確且解耦的軌跡規劃。實驗環節,團隊在Bench2Drive基準上進行了全面評估,最終取得了89.12的駕駛得分,大幅超越此前的最佳結果,樹立了新的效能標杆。

這項工作不僅為自動駕駛中的長尾場景處理提供了有效方案,也為檢索增強與多模態模型在機器人領域的融合探索了新路徑。未來,研究團隊計劃進一步最佳化檢索效率,並擴充套件至更復雜的駕駛環境。

展開要點與分析

文章情報

工程師進階

要點

  • VLADriver-RAG結合檢索增強生成與視覺-語言-動作模型,解決長尾場景泛化問題。
  • 透過視覺到場景機制將感測器資料轉化為時空語義圖,過濾視覺噪聲。
  • 場景對齊嵌入模型使用圖動態時間規整度量,優先考慮拓撲一致性而非視覺相似性。
  • 在Bench2Drive基準測試中取得89.12的駕駛得分,達到最優效能。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。