AIツールにより、より多くの難民の子どもが大人として扱われると慈善団体が警告

英国の人権ネットワークと複数の児童慈善団体は、内務省が導入を計画しているAIによる年齢検出システムに深刻な人種的偏見があるとして、警告を発している。このシステムは顔認識技術を用いて年齢を推定し、移民の選別に使用される予定だが、研究によれば特に黒人の子どもの年齢を過大評価する傾向があるという。

人権ネットワークの報告によると、この「人種差別的偏見」により、実際には未成年である子どもが大人と判定され、成人用の収容施設に送られる可能性が高まる。これにより、紛争地域から逃れてきた脆弱な子どもが、大人と一緒に住むことを強いられ、心理的・身体的なリスクにさらされると指摘されている。

複数の慈善団体は、内務省に対し、この顔年齢推定技術の導入計画を直ちに撤回するよう求めている。彼らは、アルゴリズムの公平性が確認されるまで、AIに基づく年齢評価を移民手続きに使用すべきではないと強調している。また、この問題はAIシステムにおける人種的偏見の広がりを改めて浮き彫りにしており、専門家らは技術の悪用が社会的弱者に取り返しのつかない害を及ぼす可能性があると警鐘を鳴らしている。

内務省は現在のところ公式なコメントを発表していないが、批判の声は日増しに高まっている。