跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

分层视觉代理:在联合图像-文本空间中管理上下文以实现高级图表推理

文章摘要

针对现有多模态大语言模型在多子图多步推理上的不足,研究人员提出HierVA框架,通过分层结构和联合图像-文本工作上下文管理,结合缩放工具限制视觉上下文,在CharXiv推理子集上取得显著改进。

来源arXiv Computer Vision作者: Qihua Dong, Ruozhen He, Junwen Chen, Yizhou Wang, Xu Ma, Songyao Jiang, Yun Fu
分层视觉代理:在联合图像-文本空间中管理上下文以实现高级图表推理
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

近日,一篇题为《Hierarchical Visual Agent: Managing Contexts in Joint Image-Text Space for Advanced Chart Reasoning》的论文在arXiv上发布,该论文已被ACL 2026录用。论文提出了一种名为HierVA的分层视觉代理框架,旨在解决高级图表推理中的核心挑战:如何精确感知微小视觉元素并在多个子图之间进行多步推理。

现有的大多数多模态大语言模型(MLLMs)在理解单一图表方面表现强劲,但在涉及多个子图的复杂推理任务中往往力不从心。例如,当需要比较不同子图中的数据点或执行跨子图的逻辑推理时,MLLMs容易丢失关键上下文或产生错误。HierVA通过引入一个分层代理系统来应对这一问题:系统包含一个高层管理器和多个专业工人。高层管理器负责制定推理计划,并维护一个仅包含关键信息的紧凑上下文;专业工人则执行具体的推理任务,收集视觉证据并返回结果。

值得注意的是,HierVA维护了独立的视觉上下文和文本上下文,并利用缩放(zoom-in)工具来动态限制视觉上下文的范围,从而避免无关信息的干扰。这种方法使得代理能够聚焦于最相关的视觉区域,同时保持对整体任务结构的理解。

研究人员在CharXiv推理子集上进行了实验,结果表明HierVA在所有评估指标上均一致优于强多模态基线模型。进一步的消融研究证实了三个关键设计要素的互补增益:分层架构为长期规划提供了结构,限定视觉上下文减少了噪声干扰,而精炼上下文则通过压缩信息提高了决策效率。

这一工作为复杂图表问答任务提供了新的解决思路,其分层管理和上下文优化策略有望被推广到其他需要多步视觉推理的应用场景,如科学文献理解、自动报告生成等。

展开要点与分析

文章情报

工程师进阶

要点

  • HierVA采用分层架构,高层管理器生成计划并维护紧凑上下文,专业工人进行推理和证据收集。
  • 维护独立的视觉和文本上下文,并使用缩放工具限制视觉范围。
  • 在CharXiv推理子集上的实验表明,该方法一致优于强多模态基线。
  • 消融研究验证了分层架构、限定视觉上下文和精炼上下文的互补增益。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。