跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

分層視覺代理:在聯合影像-文本空間中管理上下文以實現高階圖表推理

文章摘要

針對現有多模態大語言模型在多子圖多步推理上的不足,研究人員提出HierVA框架,透過分層結構和聯合影像-文本工作上下文管理,結合縮放工具限制視覺上下文,在CharXiv推理子集上取得顯著改進。

來源arXiv Computer Vision作者: Qihua Dong, Ruozhen He, Junwen Chen, Yizhou Wang, Xu Ma, Songyao Jiang, Yun Fu
分層視覺代理:在聯合影像-文本空間中管理上下文以實現高階圖表推理
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

近日,一篇題為《Hierarchical Visual Agent: Managing Contexts in Joint Image-Text Space for Advanced Chart Reasoning》的論文在arXiv上釋出,該論文已被ACL 2026錄用。論文提出了一種名為HierVA的分層視覺代理框架,旨在解決高階圖表推理中的核心挑戰:如何精確感知微小視覺元素並在多個子圖之間進行多步推理。

現有的大多數多模態大語言模型(MLLMs)在理解單一圖表方面表現強勁,但在涉及多個子圖的複雜推理任務中往往力不從心。例如,當需要比較不同子圖中的資料點或執行跨子圖的邏輯推理時,MLLMs容易丟失關鍵上下文或產生錯誤。HierVA透過引入一個分層代理系統來應對這一問題:系統包含一個高層管理器和多個專業工人。高層管理器負責制定推理計劃,並維護一個僅包含關鍵資訊的緊湊上下文;專業工人則執行具體的推理任務,收集視覺證據並返回結果。

值得注意的是,HierVA維護了獨立的視覺上下文和文本上下文,並利用縮放(zoom-in)工具來動態限制視覺上下文的範圍,從而避免無關資訊的干擾。這種方法使得代理能夠聚焦於最相關的視覺區域,同時保持對整體任務結構的理解。

研究人員在CharXiv推理子集上進行了實驗,結果表明HierVA在所有評估指標上均一致優於強多模態基線模型。進一步的消融研究證實了三個關鍵設計要素的互補增益:分層架構為長期規劃提供了結構,限定視覺上下文減少了噪聲干擾,而精煉上下文則透過壓縮資訊提高了決策效率。

這一工作為複雜圖表問答任務提供了新的解決思路,其分層管理和上下文最佳化策略有望被推廣到其他需要多步視覺推理的應用場景,如科學文獻理解、自動報告生成等。

展開要點與分析

文章情報

工程師進階

要點

  • HierVA採用分層架構,高層管理器生成計劃並維護緊湊上下文,專業工人進行推理和證據收集。
  • 維護獨立的視覺和文本上下文,並使用縮放工具限制視覺範圍。
  • 在CharXiv推理子集上的實驗表明,該方法一致優於強多模態基線。
  • 消融研究驗證了分層架構、限定視覺上下文和精煉上下文的互補增益。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。