跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

用于医疗大型语言模型安全性、鲁棒性与公平性评估的多领域红队测试框架

文章摘要

研究者提出多领域红队测试框架,对11个当代大型语言模型在690个临床场景中进行评估,发现尽管平均分较高,但在关键安全场景中仍存在完全失败,且人口统计修饰会放大公平性相关错误。

来源arXiv Computational Linguistics作者: Andrei Marian Feier, Veysel Kocaman, Yigit Gul, Ahmet Korkmaz, Alexander Thomas, Aleksei Zakharov, Jay Gil, Mehmet Butgul, David Talby
用于医疗大型语言模型安全性、鲁棒性与公平性评估的多领域红队测试框架
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

一篇提交于2026年4月15日的arXiv论文《A Multi-Domain Red Teaming Framework for Safety, Robustness, and Fairness Evaluation of Medical Large Language Models》提出了一个面向医疗大语言模型的多领域红队测试框架,旨在弥补现有基准测试在对抗性与伦理复杂临床情境下评估能力的不足。该论文由Andrei Marian Feier等共9位作者撰写,隶属John Snow Labs Inc,全文10页、含4幅图表,计划于2026年3月29日在荷兰代尔夫特举行的Text2Story 2026研讨会上展示,并将收录于CEUR Workshop Proceedings。论文编号为arXiv:2606.00027,属于计算与语言(cs.CL)及人工智能(cs.AI)领域,DOI为10.48550/arXiv.2606.00027,由Yigit Gul于2026年4月15日14:57:55 UTC提交。

研究背景方面,作者指出大语言模型正日益广泛地部署于医疗健康场景,但现有评测基准难以刻画模型在临床实践中常见的对抗性或伦理复杂条件下的真实行为。为此,研究团队构建了一个多领域红队测试框架,对11款当代大语言模型进行系统评估,覆盖9大领域、150多个子类别的690个有临床依据的场景。这些场景经过对抗性变换处理,模型回答则依据包含七个维度的评分量表进行评定,并采用LLM辅助打分与人工在环验证相结合的方式,以提升评估可信度。

评估结果显示出显著的性能差异:各模型平均得分从0.791到0.984不等。值得注意的是,若干整体表现优异的系统在个别安全攸关场景中出现彻底失败,这说明聚合准确率会掩盖具有临床意义的真实风险。表现最佳的系统包括X-BAI、GPT-5与Claude Opus 4.1,它们得分超过0.97且方差较低,但不同领域之间的表现差异依然明显。

在公平性方面,涉及公平性的任务在加入人口统计学修改后出现10%至20%的错误放大;同时,人工评审还识别出自动化评估所遗漏的、具有临床相关性的失败案例。作者据此得出结论:相较于单一的平均准确率,性能方差与最坏情况下的失败更能反映模型的临床可靠性;而将自动化评估与临床医生监督相结合的混合评估方法,对于可信的安全评估不可或缺。

展开要点与分析

文章情报

工程师进阶

要点

  • 框架覆盖9个领域、150多个子类别的690个临床场景,并引入对抗性变换。
  • 模型平均分在0.791至0.984之间,但高分系统在个别安全关键场景中完全失败。
  • 公平性相关任务在人口统计修饰下错误率放大10-20%,人类评审发现自动化评估遗漏的临床相关失败。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。