跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

GAP3D:通过生成式对齐将VLM潜在特征映射到补丁级嵌入以实现3D生成

文章摘要

GAP3D提出一种模块化扩散方法,将视觉语言模型(VLM)的潜在特征对齐到预训练图像编码器的完整补丁级特征空间,使冻结的下游生成模型能利用VLM作为提示编码器,同时保持空间结构化的条件信号。

来源arXiv Computer Vision作者: Polytimi Anna Gkotsi, Andrii Zadaianchuk, Mohammad Mahdi Derakhshani
GAP3D:通过生成式对齐将VLM潜在特征映射到补丁级嵌入以实现3D生成
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

GAP3D 是一篇于 2026 年 5 月 27 日提交到 arXiv 的计算机视觉与模式识别(cs.CV)方向论文,作者为 Polytimi Anna Gkotsi 及另外两位研究者,编号 arXiv:2605.28995v1。该论文聚焦于如何将视觉语言模型(VLM)作为生成模型的提示编码器,同时保留几何感知任务(例如 3D 资产生成)所需的稠密空间结构。

研究的问题在于:现有将 VLM 用作生成模型条件编码器的做法,通常依赖昂贵的端到端训练,或者把特征映射到压缩表示中,从而丢弃了稠密的空间结构。对于 3D 资产生成这类对几何敏感的任务而言,这种信息损失会直接影响生成质量。为此,作者提出 GAP3D,一种模块化的、基于扩散的方法,将 VLM 生成的潜变量直接对齐到预训练图像编码器完整的 patch 级特征空间。这样一来,冻结的下游生成模型就可以把 VLM 当作提示编码器使用,同时仍能获得具备空间结构的条件信号。

在 3D 资产生成任务上的评估显示,GAP3D 主要在通用领域的图文对上训练,因而绕过了对大规模 3D 数据的需求。此外,尽管模型仅使用文本输入进行训练,它还对多模态提示表现出涌现的零样本能力。作者也坦言,当前方法优先捕捉高层语义而非细粒度细节,但 GAP3D 证明了 VLM 与图像编码器特征空间之间的表示鸿沟可以通过基于扩散的对齐得到部分弥合,这是朝着通过生成式对齐到稠密嵌入空间来实现基础模型模块化集成所迈出的第一步。

论文摘要之外,提交页面还提供了 PDF、实验性 HTML 版本、TeX 源码以及许可信息等获取途径,并给出了 DOI(https://doi.org/10.48550/arXiv.2605.28995,由 DataCite 发放、尚待注册)。提交历史显示,v1 版本于 2026 年 5 月 27 日星期三 18:53:09 UTC 提交,文件大小约 10,193 KB。

展开要点与分析

文章情报

工程师进阶

要点

  • 通过扩散式对齐桥接VLM与图像编码器特征空间
  • 主要利用通用图像-文本对训练,无需大规模3D数据
  • 展现出对多模态提示的零样本能力
  • 当前侧重高层语义而非精细细节

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。