跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

PathReportEval:病理報告生成的系統基準測試

文章摘要

提出PathReportEval,一個用於病理報告生成的標準化基準和評估框架。該框架在三個資料集(TCGA、HistAI、REG 2025)上評估四種代表性方法,使用三種病理基礎編碼器(CONCHv1.5、UNI2-h、H-Optimus-1)。核心貢獻是臨床報告質量評分(CRQS),一種基於臨床事實準確性的度量標準,從臨床事實覆蓋、關鍵資訊召回、幻覺率和臨床不一致性四個維度評估報告質量。實驗表明,傳統語言生成指標與臨床正確性關聯薄弱,而CRQS能揭示有臨床意義的差異。

來源arXiv Computational Linguistics作者: Suryakant Singh, Sejuti Majumder, Beatrice Knudsen, Joel Saltz, Prateek Prasanna
PathReportEval:病理報告生成的系統基準測試
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

病理報告生成是將全切片影像(WSI)轉化為結構化文本報告的多模態學習問題,近年來發展迅速。然而,由於現有研究使用異構資料集、模型設定、視覺編碼器和評估協議,進展難以衡量。常用的自然語言生成指標,如BLEU、ROUGE和METEOR,主要獎勵詞彙相似性,常常無法檢測臨床重要錯誤,例如遺漏診斷、虛構發現或腫瘤屬性不一致。這些指標在臨床環境中可能產生誤導,因為它們高估了報告質量,而忽略了事實正確性。

為了應對這些挑戰,研究人員提出了PathReportEval——一個標準化基準和評估框架。該基準在三個公開資料集(TCGA、HistAI和REG 2025)上評估了四種有代表性的方法,並使用三種病理學基礎編碼器(CONCHv1.5、UNI2-h和H-Optimus-1)。該框架標準化了預處理、特徵提取、訓練、解碼和評估流程,使得不同模型之間能夠進行公平比較,同時提供了模組化平臺以便整合新方法、資料集和編碼器。這種模組化設計允許研究社群靈活新增新的視覺編碼器或語言模型,從而推動該領域的快速發展。

PathReportEval的核心貢獻是臨床報告質量評分(CRQS),這是一種基於臨床事實正確性的度量標準。CRQS將參考報告和生成報告對映到結構化的臨床屬性,並測量四個互補維度:臨床事實覆蓋率、關鍵資訊召回率、幻覺率和臨床不一致性,從而產生一個總體分數以及可解釋的子分數。臨床事實覆蓋率衡量報告包含的真實臨床事實的比例;關鍵資訊召回率評估重要發現(如診斷、腫瘤分期)是否被正確提及;幻覺率則檢測生成報告中虛構的內容;臨床不一致性則關注與參考報告的矛盾之處。這種多維度的評估方式能夠全面反映報告的質量。

實驗結果表明,傳統的語言生成指標與臨床正確性弱相關,且常常高估報告質量。例如,一個生成報告可能因為詞彙匹配度高而獲得高BLEU分數,但可能漏掉了關鍵的診斷資訊或包含了虛構的發現。相比之下,CRQS能夠揭示模型和編碼器之間具有臨床意義的差異,而詞彙指標無法捕捉這些差異。PathReportEval基準、公開的即插即用框架以及CRQS共同為病理報告生成的嚴格評估建立了可復現的基礎。該工作對臨床AI的應用具有重要意義,因為它提供了可靠的工具來評估模型是否能夠生成準確、無幻覺的病理報告,從而提升患者安全。

展開要點與分析

文章情報

投資人進階

要點

  • PathReportEval標準化了病理報告生成的評估流程。
  • CRQS從臨床事實覆蓋、關鍵資訊召回、幻覺率和臨床不一致性四個維度評估質量。
  • 傳統指標與臨床正確性弱相關,CRQS能更好地反映事實準確性。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。