GAP3D 是一篇于 2026 年 5 月 27 日提交到 arXiv 的计算机视觉与模式识别(cs.CV)方向论文,作者为 Polytimi Anna Gkotsi 及另外两位研究者,编号 arXiv:2605.28995v1。该论文聚焦于如何将视觉语言模型(VLM)作为生成模型的提示编码器,同时保留几何感知任务(例如 3D 资产生成)所需的稠密空间结构。
研究的问题在于:现有将 VLM 用作生成模型条件编码器的做法,通常依赖昂贵的端到端训练,或者把特征映射到压缩表示中,从而丢弃了稠密的空间结构。对于 3D 资产生成这类对几何敏感的任务而言,这种信息损失会直接影响生成质量。为此,作者提出 GAP3D,一种模块化的、基于扩散的方法,将 VLM 生成的潜变量直接对齐到预训练图像编码器完整的 patch 级特征空间。这样一来,冻结的下游生成模型就可以把 VLM 当作提示编码器使用,同时仍能获得具备空间结构的条件信号。
在 3D 资产生成任务上的评估显示,GAP3D 主要在通用领域的图文对上训练,因而绕过了对大规模 3D 数据的需求。此外,尽管模型仅使用文本输入进行训练,它还对多模态提示表现出涌现的零样本能力。作者也坦言,当前方法优先捕捉高层语义而非细粒度细节,但 GAP3D 证明了 VLM 与图像编码器特征空间之间的表示鸿沟可以通过基于扩散的对齐得到部分弥合,这是朝着通过生成式对齐到稠密嵌入空间来实现基础模型模块化集成所迈出的第一步。
论文摘要之外,提交页面还提供了 PDF、实验性 HTML 版本、TeX 源码以及许可信息等获取途径,并给出了 DOI(https://doi.org/10.48550/arXiv.2605.28995,由 DataCite 发放、尚待注册)。提交历史显示,v1 版本于 2026 年 5 月 27 日星期三 18:53:09 UTC 提交,文件大小约 10,193 KB。