對齊臨牀需求與AI能力：關於醫學推理中大型語言模型的綜述
這篇綜述論文提出了連接臨牀實踐與計算方法的雙重視角框架，基於Miller金字塔建立五級能力體系，將演繹、歸納和溯因推理模式與醫療目標對應。研究引入覆蓋五級推理能力的基準數據集，評估了18個模型，發現醫學專科模型在診斷任務上表現優異，通用模型則在決策支持和對話方面領先。文章還討論了數據限制、幻覺和接地等開放挑戰。
大型語言模型（LLM）在醫療保健領域的應用正迅速擴展，展現出在臨牀推理和患者護理方面的巨大潛力。近日，發表在《Machine Intelligence Research》上的一篇綜述論文，由Qi Peng等13位作者共同完成，系統梳理了面向醫療推理的大語言模型的最新進展。該研究提出了一個連接臨牀實踐與計算方法的雙重視角框架，為評估和改進醫學LLM提供了統一的理論基礎。
在臨牀方面，論文借鑑了Miller金字塔模型，建立了從低級到高級的五級能力體系：第一級為知識回憶，第二級為識別與解釋，第三級為臨牀推理，第四級為診斷決策，第五級為動態病例管理。每一級對應不同的醫學教育目標和臨牀任務需求，例如診斷分診、治療規劃、鑑別診斷等。在計算方面，論文將三種邏輯推理模式——演繹推理、歸納推理和溯因推理——與常見的醫療目標相對應，從而將臨牀需求轉化為可計算的任務。
為了評估現有模型的能力，研究團隊構建了一個覆蓋全部五級醫學推理能力的基準數據集，並對18種最新的大語言模型進行了系統評測。令人關注的是，結果揭示了不同類型的模型在不同任務上的性能權衡：醫學專科模型（針對醫學領域微調的LLM）在診斷中心型任務上表現更佳，而通用模型在決策支持與對話交互方面更具優勢。這一發現對於醫療機構在選擇適合自身需求的模型時具有重要指導意義。
儘管取得了顯著進展，論文也指出了當前面臨的主要挑戰。首先是訓練數據在規模和多樣性上的限制，可能導致模型在某些罕見病或特殊場景下表現不佳。其次是模型容易產生幻覺，即生成不準確或虛構的醫學信息，這在臨牀應用中可能帶來嚴重風險。此外，模型在真實臨牀環境中的接地（grounding）問題仍未解決，即如何確保模型輸出與實際的臨牀工作流程和患者語境保持一致。針對這些挑戰，作者建議未來應致力於開發更安全、更可靠的系統，並加強模型與臨牀工作流的集成。
該綜述為AI在醫學推理領域的應用提供了全面的現狀分析和清晰的未來路線圖，對於研究人員、臨牀醫生和AI開發者均具有重要的參考價值。論文還公開了基準數據集和評測結果，促進了該領域的開放研究。