跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

不看而见:视觉语言基准真的在测试视觉吗?

文章摘要

一篇被 CVPR 2026 GRAIL-V 研讨会接收的论文系统研究了视觉语言模型(VLM)在基准测试中的高分是否真正反映其对视觉证据的依赖。作者发现,移除大量图像 token 后模型性能仅轻微下降,且模型对细粒度视觉证据的缺失不敏感,表明当前基准不足以可靠评估细粒度视觉 grounding。

来源arXiv Computer Vision作者: Zixuan Lan, Luzhe Sun, Matthew R. Walter, Jiawei Zhou
不看而见:视觉语言基准真的在测试视觉吗?
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

视觉语言模型(VLM)在各类基准测试上不断刷新准确率,人们往往默认这些分数代表了模型对图像内容的真实理解。然而,一篇被 CVPR 2026 GRAIL-V 研讨会接收的论文对这一假设提出了系统性质疑。论文题为《Seeing without Looking: Do Vision-Language Benchmarks Really Test Vision?》,由 Zixuan Lan 等四位作者完成,于 2026 年 5 月 21 日提交至 arXiv(编号 2605.22903)。

研究的起点是一个令人意外的观察:在一个广泛使用的幻觉基准上,即使移除相当大比例的图像 token,模型性能也仅出现非常轻微的下降。如果基准分数真的反映视觉理解,那么如此大幅削减视觉信息理应导致更明显的性能滑坡。这一矛盾促使作者对多个开源 VLM 展开系统分析,探究基准准确率与模型实际依赖视觉证据的程度之间究竟存在多大差距。

作者从多个粒度层面设计了实验,包括全局视觉退化、局部遮挡、问题改写、答案空间扩展,以及超越标准准确率的决策级分析。全局退化考察模型在整体图像质量下降时的表现,局部遮挡则检验模型对关键区域被遮蔽的敏感度;问题改写和答案空间扩展用于探测模型是否依赖问题表面模式而非视觉内容;决策级分析则关注模型内部置信度与最终答案之间的关系。

行为实验之外,作者还补充了逐层的视觉 token 几何分析,从表征层面寻找解释。结果显示,尽管 VLM 确实会纳入视觉输入,但其预测对细粒度视觉证据缺失的敏感度远低于标准准确率所暗示的水平。更值得注意的是,即使最终预测保持不变,模型对正确答案的内部支持可能已经被削弱——这意味着准确率这一单一指标可能掩盖了模型 grounding 能力的退化。

表征层面的分析进一步显示,随着层数加深,视觉 token 之间的相似度逐渐上升,深层视觉表征趋于同质化。作者认为,这可能是模型对细粒度视觉证据不敏感的一个可能解释:当视觉信息在深层被压缩和混合后,模型可能更多地依赖语言先验或浅层特征来做出判断。

综合这些发现,论文得出结论:当前基准不足以可靠评估 VLM 的细粒度视觉 grounding。基准准确率的高分并不必然意味着模型真正“看”懂了图像,而可能反映其对语言模式、问题结构或粗粒度视觉线索的依赖。这一结论对 VLM 评估方法的设计具有重要警示意义,也提示社区需要开发更能区分真实视觉理解与表面模式匹配的评测范式。

展开要点与分析

文章情报

工程师进阶

要点

  • 移除大量图像 token 仅轻微降低 VLM 在幻觉基准上的准确率,引发对基准有效性的质疑。
  • 多粒度行为实验(全局退化、局部遮挡、问题改写、答案空间扩展、决策级分析)显示模型预测对细粒度视觉证据缺失不敏感。
  • 逐层分析发现深层视觉 token 表征趋同,可能解释模型为何依赖浅层或非视觉线索。
  • 即使最终预测不变,模型对正确答案的内部支持度可能已减弱,说明准确率掩盖了 grounding 不足。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。