图解问答(Diagram QA)是计算机视觉和自然语言处理交叉领域的一项重要任务。与传统的视觉问答不同,图解问答要求模型不仅要定位包含最终答案的视觉区域,还要识别推理过程中涉及的所有相关区域,这一需求被称为推理级归因。然而,创建这种结构化证据既耗时又繁琐,现有的注释工具往往与特定数据集的JSON格式紧密耦合,缺乏通用性和灵活性。
针对这一挑战,来自多家机构的研究人员提出了DIAGRAMS框架,它是一个轻量级、模式驱动的审查框架。DIAGRAMS的核心创新在于通过一个内部元模式和数据集适配器,将界面逻辑与数据集特定的JSON结构完全解耦。具体而言,该框架接受图像和问答对作为输入,并可选择提供候选区域。系统随后执行基于问答条件的证据选择,自动提出推理所需的视觉区域。如果输入缺少问答对或候选区域,DIAGRAMS能够自动生成这些信息,并提供人工验证和细化的接口。这种设计使得框架能够适应不同的数据集格式,而无需修改底层界面逻辑。
研究团队在六个不同的图解问答数据集上进行了实验,涵盖了图表、地图、电路图和信息图等多种类型。实验结果表明,模型自动建议的证据与人工最终选择之间具有较高的一致性:微平均精确率达到85.39%,召回率达到75.30%。这些结果证明,采用“审查优先”的框架能够显著减少手动区域创建的工作量,同时保持与最终推理级归因的高度一致性。
DIAGRAMS框架的另一个重要贡献是其通用性和可扩展性。通过使用元模式和适配器,该框架可以轻松扩展到新的数据集格式。研究人员已经发布了公开演示和可安装的软件包,以支持数据集审计、有监督的标注创建和基于归因的评估。这一工具有望推动图解问答领域的标准化和可重复性研究,为后续的研究和实际应用提供有力支持。