跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

VLADriver-RAG:面向自动驾驶的检索增强视觉-语言-动作模型

文章摘要

研究人员提出了VLADriver-RAG框架,通过检索增强生成技术提升自动驾驶中视觉-语言-动作模型的长尾场景泛化能力。该框架将传感器输入抽象为时空语义图以过滤视觉噪声,并利用场景对齐嵌入模型优先匹配拓扑结构一致性,最终在Bench2Drive基准上实现了89.12的驾驶得分,创下新纪录。

来源arXiv Computer Vision作者: Rui Zhao, Haofeng Hu, Zhenhai Gao, Jiaqiao Liu, Gao Fei
VLADriver-RAG:面向自动驾驶的检索增强视觉-语言-动作模型
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

自动驾驶技术近年来发展迅速,但端到端模型在罕见的长尾场景中仍面临泛化挑战。视觉-语言-动作(VLA)模型虽然展现潜力,却受限于隐式参数知识,难以应对多样化驾驶情境。检索增强生成(RAG)通过引入外部专家知识提供了改进方向,但传统的视觉检索方式存在延迟高、语义模糊等问题。

针对这些难题,研究团队提出了VLADriver-RAG框架。该框架的核心创新在于将传感器数据抽象为时空语义图,通过“视觉到场景”机制有效滤除视觉噪声,将低层感知信息转化为高层语义结构。在检索环节,团队设计了场景对齐嵌入模型,利用图动态时间规整(Graph-DTW)度量,优先关注场景的拓扑结构一致性,而非表面的视觉相似性,从而提升检索的准确性和相关性。

检索到的专家先验知识随后被融合到基于查询的VLA骨干网络中,用于生成精确且解耦的轨迹规划。实验环节,团队在Bench2Drive基准上进行了全面评估,最终取得了89.12的驾驶得分,大幅超越此前的最佳结果,树立了新的性能标杆。

这项工作不仅为自动驾驶中的长尾场景处理提供了有效方案,也为检索增强与多模态模型在机器人领域的融合探索了新路径。未来,研究团队计划进一步优化检索效率,并扩展至更复杂的驾驶环境。

展开要点与分析

文章情报

工程师进阶

要点

  • VLADriver-RAG结合检索增强生成与视觉-语言-动作模型,解决长尾场景泛化问题。
  • 通过视觉到场景机制将传感器数据转化为时空语义图,过滤视觉噪声。
  • 场景对齐嵌入模型使用图动态时间规整度量,优先考虑拓扑一致性而非视觉相似性。
  • 在Bench2Drive基准测试中取得89.12的驾驶得分,达到最优性能。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。