跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

CHI-Bench:AI智能体能自动化端到端、长周期、政策密集的医疗工作流吗?

文章摘要

CHI-Bench是首个评估AI智能体在真实医疗运营中端到端自动化能力的基准,涵盖三个领域:提供方预授权、付款方使用管理和护理管理。任务要求智能体在高保真模拟器中操作20个医疗应用、通过87个MCP工具完成长周期工作流,并遵循1290多份文件构成的运营手册技能。在30种智能体配置中,最佳模型仅解决28.0%的任务,严格pass^3标准下无一超过20%,而单会话连续执行所有任务时性能暴跌至3.8%。

来源arXiv Computational Linguistics作者: Haolin Chen, Deon Metelski, Leon Qi, Tao Xia, Joonyul Lee, Steve Brown, Kevin Riley, Frank Wang, T. Y. Alvin Liu, Hank Capps MD, Zeyu Tang, Xiangchen Song, Lingjing Kong, Fan Feng, Tianyi Zeng, Zhiwei Liu, Zixian Ma, Hang Jiang, Fangli Geng, Yuan Yuan, Chenyu You, Qingsong Wen, Hua Wei, Yanjie Fu, Yue Zhao, Carl Yang, Biwei Huang, Kun Zhang, Caiming Xiong, Sanmi Koyejo, Eric P. Xing, Philip S. Yu, Weiran Yao
CHI-Bench:AI智能体能自动化端到端、长周期、政策密集的医疗工作流吗?
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

医疗健康运营的端到端自动化,一直是人工智能代理(AI Agent)研究中颇具挑战性的应用场景。近日发表于 arXiv 的论文《CHI-Bench: Can AI Agents Automate End-to-End, Long-Horizon, Policy-Rich Healthcare Workflows?》由 Haolin Chen 等 33 位作者共同完成,于 2026 年 5 月 15 日提交,属于计算与语言(cs.CL)以及人工智能(cs.AI)交叉领域。研究者指出,当前基准测试普遍低估了三项关键能力:政策密度、多角色组合以及多边交互,而这三者恰恰是真实医疗运营流程的核心特征。

所谓政策密度,是指代理的每一个决策都必须以庞大的医疗、保险和运营规则库为依据,而非仅凭常识或单一文档即可判断。多角色组合意味着同一项任务要求代理在流程中扮演多个角色并完成交接,例如从临床人员切换到保险审核人员。多边交互则指工作流中的中间步骤往往是多轮对话,如同行评审和患者外联沟通,代理必须在对话中推进流程而非单方面执行指令。

为系统评估这些能力,研究团队提出了 χ-Bench(CHI-Bench),一个覆盖三大领域的长时间跨度医疗工作流基准:医疗服务提供方的事前授权(prior authorization)、支付方的利用率管理(utilization management)以及护理管理(care management)。每个任务都会把一个临床病例交给代理,代理需要在由 87 个 MCP 工具暴露的 20 个医疗应用构成的高保真模拟器中操作,通过工具调用并撰写相应角色的文书,将病例推进至终态。整个过程中,代理还可借助一份包含 1,290 多份文档的管理式医疗运营手册技能作为指导。

实验结果并不乐观。在 30 种代理框架与模型配置中,表现最好的代理仅解决了 28.0% 的任务;在严格的 pass^3 指标下,没有任何代理的通过率超过 20%;而当所有任务在单一会话中连续执行时,整体性能骤降至 3.8%。这些数据表明,即便最先进的模型在面对政策密集、角色复合、且具有不可逆后果的企业级流程时,仍存在显著能力缺口。

研究者据此提出假设:类似的差距很可能在其他政策密集、多角色组合、结果不可逆的企业领域中同样出现。论文同时提供了项目网站、代码与数据集的链接,并给出 arXiv 编号 2605.16679 及 DOI。该工作为评估 AI 代理在真实医疗运营中的可用性提供了新的测试平台,也为后续研究指明了需要重点突破的方向。

展开要点与分析

文章情报

工程师进阶

要点

  • CHI-Bench包含三个医疗运营领域的端到端工作流任务,强调政策密度、多角色组合和多边交互三大能力。
  • 智能体需在模拟20个医疗应用、87个MCP工具的高保真环境中驱动临床案例至终态,并参考1290多份文件构成的运营手册。
  • 最佳智能体仅解决28.0%任务,严格pass^3下无人超过20%,单会话执行所有任务时性能降至3.8%。
  • 结果表明,类似差距可能出现在其他政策密集、角色组合、不可逆的企业领域。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。