对齐临床需求与AI能力：关于医学推理中大型语言模型的综述
这篇综述论文提出了连接临床实践与计算方法的双重视角框架，基于Miller金字塔建立五级能力体系，将演绎、归纳和溯因推理模式与医疗目标对应。研究引入覆盖五级推理能力的基准数据集，评估了18个模型，发现医学专科模型在诊断任务上表现优异，通用模型则在决策支持和对话方面领先。文章还讨论了数据限制、幻觉和接地等开放挑战。
大型语言模型（LLM）在医疗保健领域的应用正迅速扩展，展现出在临床推理和患者护理方面的巨大潜力。近日，发表在《Machine Intelligence Research》上的一篇综述论文，由Qi Peng等13位作者共同完成，系统梳理了面向医疗推理的大语言模型的最新进展。该研究提出了一个连接临床实践与计算方法的双重视角框架，为评估和改进医学LLM提供了统一的理论基础。
在临床方面，论文借鉴了Miller金字塔模型，建立了从低级到高级的五级能力体系：第一级为知识回忆，第二级为识别与解释，第三级为临床推理，第四级为诊断决策，第五级为动态病例管理。每一级对应不同的医学教育目标和临床任务需求，例如诊断分诊、治疗规划、鉴别诊断等。在计算方面，论文将三种逻辑推理模式——演绎推理、归纳推理和溯因推理——与常见的医疗目标相对应，从而将临床需求转化为可计算的任务。
为了评估现有模型的能力，研究团队构建了一个覆盖全部五级医学推理能力的基准数据集，并对18种最新的大语言模型进行了系统评测。令人关注的是，结果揭示了不同类型的模型在不同任务上的性能权衡：医学专科模型（针对医学领域微调的LLM）在诊断中心型任务上表现更佳，而通用模型在决策支持与对话交互方面更具优势。这一发现对于医疗机构在选择适合自身需求的模型时具有重要指导意义。
尽管取得了显著进展，论文也指出了当前面临的主要挑战。首先是训练数据在规模和多样性上的限制，可能导致模型在某些罕见病或特殊场景下表现不佳。其次是模型容易产生幻觉，即生成不准确或虚构的医学信息，这在临床应用中可能带来严重风险。此外，模型在真实临床环境中的接地（grounding）问题仍未解决，即如何确保模型输出与实际的临床工作流程和患者语境保持一致。针对这些挑战，作者建议未来应致力于开发更安全、更可靠的系统，并加强模型与临床工作流的集成。
该综述为AI在医学推理领域的应用提供了全面的现状分析和清晰的未来路线图，对于研究人员、临床医生和AI开发者均具有重要的参考价值。论文还公开了基准数据集和评测结果，促进了该领域的开放研究。