AI News HubLIVE
站内改写2 分钟阅读

AI可在人们透露前数年识别亲密伴侣暴力,但这安全吗?

麻省理工学院和麻省总医院布莱根的研究人员开发了一种AI模型,能够从医疗记录中识别出亲密伴侣暴力(IPV)高风险患者,准确率达80%,并能在患者自我报告前平均提前3.68年发出警报。然而,该工具在临床部署前仍需解决隐私、数据安全和伦理问题,尤其是涉及强制控制等非身体暴力的识别以及患者知情同意问题。

来源ZDNet AI

根据美国疾病控制与预防中心的数据,超过三分之一的美国女性在一生中会经历亲密伴侣暴力(IPV)。许多人因受伤、慢性疼痛、焦虑和抑郁前往医院或诊所,但往往需要数年才能公开自己的遭遇。研究人员警告,女性出于对施暴者的恐惧、经济依赖、移民身份和污名化等原因,不愿向医疗提供者寻求帮助。美国预防服务工作组建议对所有育龄女性进行常规IPV筛查,但依赖自我报告的现有工具仅能捕捉到一小部分患者。

为此,哈佛医学院创伤影像研究与创新中心创始主任、布莱根妇女医院急诊放射科医生Bharti Khurana博士与麻省理工学院、哈佛医学院的研究人员合作,于2026年3月发表了一项新研究,提出了一种通过AI识别IPV风险的方法。该系统名为AIRS(自动化IPV风险支持),利用医疗记录中已有的数据,结合结构化信息(如诊断、药物、放射检查时间、急诊就诊频率、生命体征及邮政编码级别的社会剥夺评分)和非结构化临床笔记(由医生、社会工作者等撰写的自由文本),通过临床语言模型Clinical-Longformer处理,最终使用HAIM(医学全息AI)框架融合两个分类器的输出。

在主要测试队列中,AIRS的AUC达到0.88(1.0为完美,0.5为随机),在三个验证队列中AUC均高于0.8。该模型能在患者自我报告前识别出80.6%的IPV病例,平均提前3.68年,有些甚至超过5年。然而,这并非首次尝试用AI识别IPV。西班牙2007年推出的VioGén算法风险评估工具曾用于警方,但自2007年以来至少有247名女性在评估后被伴侣杀害,其中55人被评为“可忽略”或“低风险”。英国的DASH工具也被发现无法识别最脆弱的受害者。其他研究虽取得了高精度,但大多限于试点项目。

AIRS被设计为一种“沉默的临床支持工具”,仅向临床医生提供风险评分,而非直接告知患者。Khurana强调,该模型并非用于诊断IPV,阳性标志不应被解读为虐待确认。目前,AIRS正在麻省总医院布莱根的多家临床机构进行试点测试,并配套有“关怀对话”指南和“赋能指南”以帮助医生以创伤知情的方式回应。

然而,伦理问题依然存在。拉筹伯大学高级讲师、IEEE家庭暴力AI行业连接活动联席主席Alexia Maddox指出,该研究对IPV的定义基于身体暴力,但当前领域已转向包含强制控制(如经济虐待、技术滥用),这些形式在放射报告或急诊记录中几乎不留痕迹,因此模型可能对非身体暴力受害者无效。此外,患者知情同意问题突出:部署模型时,患者可能不知自己正被评估,这可能导致隐私泄露和自主权丧失,尤其对持有临时签证的群体风险更高。Maddox援引VioGén的教训,强调治理标准需在部署前建立,而非事后补救。

Khurana的团队正致力于解决这些局限,包括扩展模型以覆盖跨性别、非二元性别和男性受害者,并研究IPV相关的长期健康风险(如胃肠疾病、神经问题等)。同时,IEEE的治理倡议正在制定负责任部署AI的标准。Maddox认为,AI应成为应对IPV的一部分,但前提是设置适当的保障措施。