这篇发表于2026年7月1日的arXiv论文《World Feedback for Clinical Agents: Diagnosing RL in FHIR Environments》(临床智能体的世界反馈:诊断FHIR环境中的强化学习)由Ananya Mantravadi等四位作者完成,归入人工智能(cs.AI)分类,arXiv编号为2607.01470。研究聚焦于临床协议执行类任务,例如检查某项检验数值、套用阈值判断、以及提交结构正确的FHIR医嘱。作者认为,这类任务非常适合采用基于世界反馈的强化学习(RL):一旦临床领域专家(SME)把决策逻辑编码进验证器,该验证器就能对无限次 rollout 进行评分,而无需逐回合人工标注。
然而,论文指出,将强化学习真正落地需要两个前提:可靠的反馈通道,以及足够的基础能力。为此,作者首先审计了MedAgentBench v1和v2,发现其中存在41.7%的“静默完成”(silent-finish)上限,这意味着智能体即使什么都不做也能被判定为完成,从而使“不作为”成为强化学习的最优策略,严重扭曲了训练信号。为修正这一问题,研究团队构建了MedAgentBench-v3(MAB-v3),包含508项任务,将这一上限压低至8.9%,为强化学习提供了更干净的反馈环境。
在MAB-v3上训练Qwen3-8B时,研究暴露出两个结构性障碍。第一个是“能力天花板”:20类任务中有10类的基础表现为0%,模型在这些任务上得不到任何梯度信号,因此无法通过纯强化学习学会。第二个是“格式—知识壁垒”:另有3类任务要求精确的临床编码,而这些编码无法通过探索被模型自行发现。结果是,纯强化学习仅达到18.2%的pass@1,而基于规则的监督微调(SFT)达到34.1%,两者之间15.9个百分点的差距完全可以归因于上述两类障碍。
基于这些发现,作者提出了一套决策/格式知识/查找的三分分类法,用以预测某类任务是否具备强化学习可学习性,并据此给出处方:用监督微调注入必要的临床编码知识,再用强化学习学习条件判断逻辑。换言之,SFT负责补齐模型无法探索到的先验知识,RL负责在反馈通道可靠的前提下优化决策策略。该工作为临床智能体的训练流程提供了诊断框架与具体的改进路径,也提示研究者在应用基于验证器的强化学习前,必须先审计基准本身的反馈质量。