跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

GAZE:基于接地代理的零样本评估——利用观众级工具与文献检索分析罕见脑部MRI

文章摘要

GAZE框架赋予医学视觉语言模型(VLM)迭代式分析能力,通过调用缩放、窗宽等观众级工具及PubMed/Open-i检索工具,在包含906例罕见脑MRI的NOVA基准上,病灶定位[email protected]达58.2,Top-1诊断准确率34.9%,且对罕见病例提升显著,揭示了工具使用与模型依赖之间的权衡。

来源arXiv Machine Learning作者: Duaa Alim, Mogtaba Alim, Liam Chalcroft
GAZE:基于接地代理的零样本评估——利用观众级工具与文献检索分析罕见脑部MRI
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

放射科医生在撰写诊断报告前,通常会多次审视医学影像,并查阅相关文献以辅助判断。然而,现有的视觉语言模型(VLM)通常仅通过一次前向传播就生成文本,缺乏这种迭代推理的能力。为了弥补这一差距,来自Duaa Alim、Mogtaba Alim和Liam Chalcroft的研究团队提出了GAZE(Grounded Agentic Zero-shot Evaluation)框架。该框架允许医疗VLM以迭代方式工作,通过调用一系列观众级工具(包括缩放、窗宽调整、对比度增强和边缘检测)以及两个由美国国家医学图书馆支持的检索工具——PubMed用于医学文献检索,Open-i用于放射学图像检索——来模拟放射科医生的工作流程。所有输出都经过结构化模式验证,并记录完整的工具调用轨迹,以确保可审计性。

GAZE框架在NOVA基准上进行了评估。NOVA是一个专门针对罕见神经系统疾病的基准,包含906例脑部MRI病例,覆盖281种罕见疾病。在联合评估协议下,GAZE在未经过任务特定微调的情况下,仅从图像中实现病灶定位的58.2平均精度均值([email protected])以及Top-1诊断准确率34.9%。值得注意的是,即使在未使用任何工具之前,通过结构化提示和模式验证输出,性能已从已发布的Gemini 2.0 Flash基线(20.2 [email protected])提升至29.4 [email protected],这表明框架设计本身就是一个重要的实验变量。

工具使用对罕见病理学的影响尤为显著。对于诊断样本数不超过3例的病例,IoU>0.3的比例从17%提升至58%;而对于常见疾病(样本数≥10例),该比例从25%提升至68%。性能提升与工具使用参与度密切相关:使用Gemini 3 Flash时,Cohen's d=0.79,平均每例调用11.8次工具;而Gemini 2.0 Flash仅有8.2%的病例使用了工具,且未见显著效益。此外,检索消融实验揭示了模型依赖的权衡:诊断准确性的提升可能伴随着定位性能的下降。这一发现进一步强调了在医疗VLM评估中必须同时考虑诊断、定位和描述生成三个方面,以全面衡量模型的能力。

展开要点与分析

文章情报

工程师进阶

要点

  • GAZE让医疗VLM像放射科医生一样迭代查看图像并检索文献,而非单次前向传播。
  • 在NOVA基准(906例罕见脑部疾病MRI)上,GAZE达到58.2 [email protected]病灶定位和34.9% Top-1诊断准确率。
  • 工具使用对罕见病例帮助更大:少数样本(≤3例)中IoU>0.3比例从17%升至58%,常见病例从25%升至68%。
  • 检索消融实验显示诊断与定位间存在模型依赖的权衡,强调需综合评估。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。

GAZE:基于接地代理的零样本评估——利用观众级工具与文献检索分析罕见脑部MRI | AI News Hub