AI可在人們透露前數年識別親密伴侶暴力,但這安全嗎?
麻省理工學院和麻省總醫院布萊根的研究人員開發了一種AI模型,能夠從醫療記錄中識別出親密伴侶暴力(IPV)高風險患者,準確率達80%,並能在患者自我報告前平均提前3.68年發出警報。然而,該工具在臨牀部署前仍需解決隱私、數據安全和倫理問題,尤其是涉及強制控制等非身體暴力的識別以及患者知情同意問題。
根據美國疾病控制與預防中心的數據,超過三分之一的美國女性在一生中會經歷親密伴侶暴力(IPV)。許多人因受傷、慢性疼痛、焦慮和抑鬱前往醫院或診所,但往往需要數年才能公開自己的遭遇。研究人員警告,女性出於對施暴者的恐懼、經濟依賴、移民身份和污名化等原因,不願向醫療提供者尋求幫助。美國預防服務工作組建議對所有育齡女性進行常規IPV篩查,但依賴自我報告的現有工具僅能捕捉到一小部分患者。
為此,哈佛醫學院創傷影像研究與創新中心創始主任、布萊根婦女醫院急診放射科醫生Bharti Khurana博士與麻省理工學院、哈佛醫學院的研究人員合作,於2026年3月發表了一項新研究,提出了一種通過AI識別IPV風險的方法。該系統名為AIRS(自動化IPV風險支持),利用醫療記錄中已有的數據,結合結構化信息(如診斷、藥物、放射檢查時間、急診就診頻率、生命體徵及郵政編碼級別的社會剝奪評分)和非結構化臨牀筆記(由醫生、社會工作者等撰寫的自由文本),通過臨牀語言模型Clinical-Longformer處理,最終使用HAIM(醫學全息AI)框架融合兩個分類器的輸出。
在主要測試隊列中,AIRS的AUC達到0.88(1.0為完美,0.5為隨機),在三個驗證隊列中AUC均高於0.8。該模型能在患者自我報告前識別出80.6%的IPV病例,平均提前3.68年,有些甚至超過5年。然而,這並非首次嘗試用AI識別IPV。西班牙2007年推出的VioGén算法風險評估工具曾用於警方,但自2007年以來至少有247名女性在評估後被伴侶殺害,其中55人被評為“可忽略”或“低風險”。英國的DASH工具也被發現無法識別最脆弱的受害者。其他研究雖取得了高精度,但大多限於試點項目。
AIRS被設計為一種“沉默的臨牀支持工具”,僅向臨牀醫生提供風險評分,而非直接告知患者。Khurana強調,該模型並非用於診斷IPV,陽性標誌不應被解讀為虐待確認。目前,AIRS正在麻省總醫院布萊根的多家臨牀機構進行試點測試,並配套有“關懷對話”指南和“賦能指南”以幫助醫生以創傷知情的方式回應。
然而,倫理問題依然存在。拉籌伯大學高級講師、IEEE家庭暴力AI行業連接活動聯席主席Alexia Maddox指出,該研究對IPV的定義基於身體暴力,但當前領域已轉向包含強制控制(如經濟虐待、技術濫用),這些形式在放射報告或急診記錄中幾乎不留痕跡,因此模型可能對非身體暴力受害者無效。此外,患者知情同意問題突出:部署模型時,患者可能不知自己正被評估,這可能導致隱私泄露和自主權喪失,尤其對持有臨時簽證的羣體風險更高。Maddox援引VioGén的教訓,強調治理標準需在部署前建立,而非事後補救。
Khurana的團隊正致力於解決這些侷限,包括擴展模型以覆蓋跨性別、非二元性別和男性受害者,並研究IPV相關的長期健康風險(如胃腸疾病、神經問題等)。同時,IEEE的治理倡議正在制定負責任部署AI的標準。Maddox認為,AI應成為應對IPV的一部分,但前提是設置適當的保障措施。