arXiv 於 2026 年 10 月 21 日發佈了一篇新論文《Automated screening of privacy risks in medical AI》(自動化篩查醫療 AI 中的隱私風險),編號 arXiv:2610.30229v1,屬於 cs.LG(機器學習)分類,同時交叉列入 cs.AI(人工智能)與 cs.CR(密碼學與安全)。論文由 Konstantinos Vrettos 與另外五位作者共同完成,通訊提交人為 Michail Klontzas,提交時間為 2026 年 10 月 21 日 17:52:43 UTC,全文共 37 頁、含 5 幅圖,文件大小約 3,079 KB。DOI 通過 DataCite 申請中(https://doi.org/10.48550/arXiv.2610.30229)。
論文關注的核心問題是:醫療人工智能模型在發佈時通常不公開訓練數據,人們據此假設患者的隱私因此受到保護。然而,模型本身可能泄露某位患者的記錄是否被用於訓練,這類隱私攻擊被稱為成員推斷攻擊(membership inference attack)。作者指出,這種風險通常以隊列平均值的形式報告,平均值看起來可能微不足道,但實際上某些個體患者幾乎可以確定處於暴露狀態。如果在開發生產模型之前就能識別出可能易受攻擊的記錄,隱私評估將變得更加可行。
為量化這一風險,研究團隊在六個臨牀數據集、四種數據模態上共訓練了 7,789 個模型,並逐一測量每位患者對成員推斷攻擊的脆弱性;其中還包括兩個經過適配的預訓練醫療模型。結果顯示,訓練選擇會改變高攻擊分數患者的數量,但在所測試的各種配置下,風險排名最高的那批患者基本保持不變。更強的權重衰減(weight decay)最多可將暴露隊列縮小三倍,然而無論訓練配方、模型架構、初始化方式如何變化,甚至包括基礎模型(foundation models),處於最高風險的患者羣體在很大程度上仍是同一批人。
基於上述發現,作者開發了一個輕量級篩查工具,使用四個小型模型,在生產模型訓練之前識別出高暴露風險的患者。此外,研究還評估了在不刪除數據的前提下,能否對被標記的患者加以保護。作者在結論中主張,隱私篩查應當被納入臨牀 AI 的數據準備流程。論文的摘要未披露篩查工具的具體實現細節、評估指標以及保護措施的具體效果,這些內容需查閲全文。需要指出的是,文中結論來自作者在六個臨牀數據集和四種模態上的實驗,屬於預印本階段的初步研究成果,尚未經過同行評審;其工具在其他數據集與機構環境中的可推廣性仍需進一步驗證。投稿歷史顯示目前僅有 v1 一個版本,論文以 arXiv 許可協議提供全文 PDF 訪問。