英國內政部AI年齡估算系統被指存在偏見且不準確

超過60個權利組織已呼籲英國政府放棄在尋求庇護兒童身上使用AI面部年齡估算技術的計劃，警告該技術存在偏見、不準確且可能違法。在致邊境安全與庇護部長亞歷克斯·諾里斯的公開信中，包括大赦國際、人權觀察、自由組織、電子前哨基金會、Foxglove和開放權利組織在內的62個組織，要求內政部停止部署面部年齡估算（FAE）技術，該技術原定於2027年開始推廣。

此前，內政部公佈了使用AI面部年齡估算技術幫助移民官員判斷自稱兒童的人是否可能年滿18歲的計劃。部長們堅稱，該技術將輔助而非取代人工決策。但聯名信背後的聯盟對此並不信服。

信中寫道：“關於FAE的偏見存在大量且有理有據的擔憂”，認為該技術存在“固有的失敗和歧視”，尤其影響女性和有色人種。這些組織還強調了內政部自身指南中一個令人不安的細節：該技術的性能因種族和膚色而異。他們認為，這使得官員難以相信該技術能可靠地評估主要是有色人種的尋求庇護兒童。

這些組織還針對該技術最大的實際問題：年齡估算系統在最需要評估的邊界上精度最差。信中引用政府數據顯示，即使是性能最好的系統，在16-18歲關鍵年齡段誤差範圍也約為2.5年。這些組織認為，該技術在尋求庇護兒童身上可能表現更差，因為創傷、暴力、營養不良、脱水、睡眠剝奪和長途旅行可能使兒童看起來比實際年齡大，從而扭曲結果。

聯名信寫道：“因此……我們認為內政部沒有依據得出該技術將提高決策準確性的結論。”該聯盟還對用於開發和測試系統的數據提出質疑，要求提供用於訓練的圖像和數據集細節，認為如果包含了尋求庇護兒童的數據，那麼如何合法獲得同意尚不清楚。

《註冊》雜誌已聯繫內政部置評。目前，內政部僅公佈了有限的測試計劃細節。這些組織指出，官員尚未公佈詳細結果、方法或影響評估，使得獨立審查技術性能成為不可能。信中還指出，沒有公開平等影響評估或數據保護影響評估。這些組織給予內政部21天時間回應一系列問題，涵蓋測試方法、訓練數據、保障措施、申訴機制以及面部年齡估算最終如何影響庇護決定。

這場爭論也暴露了關於年齡評估的更廣泛分歧。內政部強調了一些成人冒充兒童的案例，而活動人士則認為更大的風險是弱勢兒童被當作成人對待。在那之前，政府聲稱有效的AI年齡估算技術仍未能完全展示其工作方式。