arXiv 上发布了一篇题为《WorldBench: A Challenging and Visually Diverse Multimodal Reasoning Benchmark》的论文,提交于 2026 年 6 月 4 日,作者为 Yida Yin 等 12 人,属于计算机视觉与模式识别(cs.CV)领域。该论文提出了一个名为 WorldBench 的多模态推理基准,旨在评估多模态大语言模型(MLLMs)在视觉多样性场景下的推理能力。
论文指出,现实应用要求模型在多样化的环境中可靠运行,但现有多模态基准往往只扩展任务类型,而未能捕捉处理开放式视觉输入所需的视觉多样性。为此,研究团队构建了一个涵盖多个领域(如生物等)的数千个视觉概念分类体系。基于该分类体系,他们从搜索引擎和现有数据集中广泛收集图像,以全面代表视觉世界。通过结构化的试错过程,团队手动设计了具有挑战性的问题,这些问题连前沿 MLLMs 也难以回答。
在定量和人工评估中,WorldBench 在视觉多样性上超越了所有现有的多样化基准。研究团队在 WorldBench 上评估了 15 个 MLLMs,结果揭示了视觉理解方面的弱点:即使最强的模型准确率也仅达到 64.0%,而部分模型的准确率仅略高于随机水平。作者希望这项工作能凸显视觉多样性在多模态基准构建中的重要性。
该论文的摘要强调,WorldBench 不仅是一个新的评测工具,更是对当前多模态模型视觉理解能力的一次严格检验。通过系统化的分类和图像收集,基准覆盖了广泛的视觉概念,确保了评测的多样性和挑战性。手动设计的问题经过反复筛选,确保能够区分模型能力的差异。评估结果明确显示,现有模型在应对视觉多样性时仍存在显著不足,这为未来研究指明了方向。
论文的项目页面提供了更多细节,包括基准的构建方法和评估协议。作者团队来自多个机构,共同致力于推动多模态推理评测的发展。该工作已发布在 arXiv 上,供社区访问和引用。