英国内政部AI年龄估算系统被指存在偏见且不准确

超过60个权利组织已呼吁英国政府放弃在寻求庇护儿童身上使用AI面部年龄估算技术的计划，警告该技术存在偏见、不准确且可能违法。在致边境安全与庇护部长亚历克斯·诺里斯的公开信中，包括大赦国际、人权观察、自由组织、电子前哨基金会、Foxglove和开放权利组织在内的62个组织，要求内政部停止部署面部年龄估算（FAE）技术，该技术原定于2027年开始推广。

此前，内政部公布了使用AI面部年龄估算技术帮助移民官员判断自称儿童的人是否可能年满18岁的计划。部长们坚称，该技术将辅助而非取代人工决策。但联名信背后的联盟对此并不信服。

信中写道：“关于FAE的偏见存在大量且有理有据的担忧”，认为该技术存在“固有的失败和歧视”，尤其影响女性和有色人种。这些组织还强调了内政部自身指南中一个令人不安的细节：该技术的性能因种族和肤色而异。他们认为，这使得官员难以相信该技术能可靠地评估主要是有色人种的寻求庇护儿童。

这些组织还针对该技术最大的实际问题：年龄估算系统在最需要评估的边界上精度最差。信中引用政府数据显示，即使是性能最好的系统，在16-18岁关键年龄段误差范围也约为2.5年。这些组织认为，该技术在寻求庇护儿童身上可能表现更差，因为创伤、暴力、营养不良、脱水、睡眠剥夺和长途旅行可能使儿童看起来比实际年龄大，从而扭曲结果。

联名信写道：“因此……我们认为内政部没有依据得出该技术将提高决策准确性的结论。”该联盟还对用于开发和测试系统的数据提出质疑，要求提供用于训练的图像和数据集细节，认为如果包含了寻求庇护儿童的数据，那么如何合法获得同意尚不清楚。

《注册》杂志已联系内政部置评。目前，内政部仅公布了有限的测试计划细节。这些组织指出，官员尚未公布详细结果、方法或影响评估，使得独立审查技术性能成为不可能。信中还指出，没有公开平等影响评估或数据保护影响评估。这些组织给予内政部21天时间回应一系列问题，涵盖测试方法、训练数据、保障措施、申诉机制以及面部年龄估算最终如何影响庇护决定。

这场争论也暴露了关于年龄评估的更广泛分歧。内政部强调了一些成人冒充儿童的案例，而活动人士则认为更大的风险是弱势儿童被当作成人对待。在那之前，政府声称有效的AI年龄估算技术仍未能完全展示其工作方式。