跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

DIAGRAMS:一种用于图解问答中推理级归因的审查框架

文章摘要

图解问答需要推理级归因,即将每个问答对与推导答案所需的所有视觉区域联系起来,而不仅仅是包含最终答案的区域。现有注释工具将界面与数据集特定格式紧密耦合。本文提出的DIAGRAMS是一个轻量级、模式驱动的审查框架,通过内部元模式和数据集适配器将界面逻辑与数据集特定的JSON结构解耦。该系统可基于问答对进行证据选择并提出所需区域,缺失时自动生成并支持人工验证。在六个数据集上,其建议证据的精确率达85.39%,召回率达75.30%,表明该框架能减少手动区域创建并保持高一致性。

来源arXiv Computational Linguistics作者: Anirudh Iyengar Kaniyar Narayana Iyengar, Tampu Ravi Kumar, Manan Suri, Raviteja Bommireddy, Dinesh Manocha, Puneet Mathur, Vivek Gupta
DIAGRAMS:一种用于图解问答中推理级归因的审查框架
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

图解问答(Diagram QA)是计算机视觉和自然语言处理交叉领域的一项重要任务。与传统的视觉问答不同,图解问答要求模型不仅要定位包含最终答案的视觉区域,还要识别推理过程中涉及的所有相关区域,这一需求被称为推理级归因。然而,创建这种结构化证据既耗时又繁琐,现有的注释工具往往与特定数据集的JSON格式紧密耦合,缺乏通用性和灵活性。

针对这一挑战,来自多家机构的研究人员提出了DIAGRAMS框架,它是一个轻量级、模式驱动的审查框架。DIAGRAMS的核心创新在于通过一个内部元模式和数据集适配器,将界面逻辑与数据集特定的JSON结构完全解耦。具体而言,该框架接受图像和问答对作为输入,并可选择提供候选区域。系统随后执行基于问答条件的证据选择,自动提出推理所需的视觉区域。如果输入缺少问答对或候选区域,DIAGRAMS能够自动生成这些信息,并提供人工验证和细化的接口。这种设计使得框架能够适应不同的数据集格式,而无需修改底层界面逻辑。

研究团队在六个不同的图解问答数据集上进行了实验,涵盖了图表、地图、电路图和信息图等多种类型。实验结果表明,模型自动建议的证据与人工最终选择之间具有较高的一致性:微平均精确率达到85.39%,召回率达到75.30%。这些结果证明,采用“审查优先”的框架能够显著减少手动区域创建的工作量,同时保持与最终推理级归因的高度一致性。

DIAGRAMS框架的另一个重要贡献是其通用性和可扩展性。通过使用元模式和适配器,该框架可以轻松扩展到新的数据集格式。研究人员已经发布了公开演示和可安装的软件包,以支持数据集审计、有监督的标注创建和基于归因的评估。这一工具有望推动图解问答领域的标准化和可重复性研究,为后续的研究和实际应用提供有力支持。

展开要点与分析

文章情报

工程师进阶

要点

  • 图解问答需要推理级归因,而非仅关注最终答案区域。
  • DIAGRAMS框架通过元模式和适配器解耦界面逻辑与数据集格式。
  • 系统可自动生成缺失的问答对或候选区域,并支持人工验证。
  • 在六个数据集上,模型建议证据与人工最终选择有高一致性(精确率85.39%,召回率75.30%)。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。