一篇提交于2026年4月15日的arXiv论文《A Multi-Domain Red Teaming Framework for Safety, Robustness, and Fairness Evaluation of Medical Large Language Models》提出了一个面向医疗大语言模型的多领域红队测试框架,旨在弥补现有基准测试在对抗性与伦理复杂临床情境下评估能力的不足。该论文由Andrei Marian Feier等共9位作者撰写,隶属John Snow Labs Inc,全文10页、含4幅图表,计划于2026年3月29日在荷兰代尔夫特举行的Text2Story 2026研讨会上展示,并将收录于CEUR Workshop Proceedings。论文编号为arXiv:2606.00027,属于计算与语言(cs.CL)及人工智能(cs.AI)领域,DOI为10.48550/arXiv.2606.00027,由Yigit Gul于2026年4月15日14:57:55 UTC提交。
研究背景方面,作者指出大语言模型正日益广泛地部署于医疗健康场景,但现有评测基准难以刻画模型在临床实践中常见的对抗性或伦理复杂条件下的真实行为。为此,研究团队构建了一个多领域红队测试框架,对11款当代大语言模型进行系统评估,覆盖9大领域、150多个子类别的690个有临床依据的场景。这些场景经过对抗性变换处理,模型回答则依据包含七个维度的评分量表进行评定,并采用LLM辅助打分与人工在环验证相结合的方式,以提升评估可信度。
评估结果显示出显著的性能差异:各模型平均得分从0.791到0.984不等。值得注意的是,若干整体表现优异的系统在个别安全攸关场景中出现彻底失败,这说明聚合准确率会掩盖具有临床意义的真实风险。表现最佳的系统包括X-BAI、GPT-5与Claude Opus 4.1,它们得分超过0.97且方差较低,但不同领域之间的表现差异依然明显。
在公平性方面,涉及公平性的任务在加入人口统计学修改后出现10%至20%的错误放大;同时,人工评审还识别出自动化评估所遗漏的、具有临床相关性的失败案例。作者据此得出结论:相较于单一的平均准确率,性能方差与最坏情况下的失败更能反映模型的临床可靠性;而将自动化评估与临床医生监督相结合的混合评估方法,对于可信的安全评估不可或缺。