英内務省の庇護希望者向けAI年齢推定システム、偏りと不正確さを非難される

60以上の権利団体が、英国政府に対し、庇護希望の子どもに対するAI顔年齢推定技術の使用計画を撤回するよう求め、この技術には偏りがあり、不正確で、違法の可能性があると警告している。国境安全・庇護担当大臣アレックス・ノリスに宛てた公開書簡で、アムネスティ・インターナショナル、ヒューマン・ライツ・ウォッチ、リバティ、電子フロンティア財団、Foxglove、オープン・ライツ・グループを含む62団体が、内務省に対し、2027年からの導入が予定されている顔年齢推定（FAE）技術の展開を停止するよう求めた。

この動きは、内務省が自称する子どもが18歳以上か以下かを判断するためにAI顔年齢推定技術を利用する計画を発表した後に起きた。大臣らは、この技術は人間の意思決定を補完するものであり、置き換えるものではないと強調している。しかし、書簡の背後にある連合は納得していない。

書簡には「FAEの偏りについては、実質的で十分な根拠のある懸念がある」と記され、この技術には「組み込まれた失敗と差別」があり、特に女性や有色人種に影響を及ぼすと主張している。また、内務省自身のガイドラインにある気になる詳細、すなわち、技術の性能が民族や肌の色によって異なることを指摘した。これにより、主に有色人種である庇護希望の子どもを評価するためにこの技術が信頼できると考える根拠は見当たらないと主張している。

これらの団体は、技術の最大の実用的問題にも焦点を当てた。年齢推定システムは、内務省が評価したいと望む境界線で最も精度が低いのである。「内務省は、FAEシステムが重要な16～18歳の境界で不正確であることを認めている」と書簡は指摘し、政府のデータによると、最も性能の良いシステムでもこの範囲で約2.5年の誤差があると述べている。

団体は、この技術は庇護希望の子どもに対してさらに悪い結果をもたらす可能性があると主張する。トラウマ、暴力、栄養不良、脱水、睡眠不足、長旅により、子どもは実際より年上に見える可能性があり、結果を歪める恐れがある。

書簡は「したがって……内務省がこの技術が意思決定の精度を高めると結論づけた根拠は見当たらない」と述べている。連合はまた、システムの開発とテストに使用されたデータについて疑問を呈し、訓練に使用された画像とデータセットの詳細を要求した。庇護希望の子どもが含まれていた場合、同意がどのように合法的に得られたかは不明だと主張している。

内務省はこれまでテストプログラムの限られた詳細のみを公表している。団体は、役人が技術の性能を独立して精査できるような詳細な結果、方法論、影響評価をまだ公開していないと指摘した。また、平等影響評価やデータ保護影響評価も公開されていない。団体は内務省に対し、テスト方法、訓練データ、保護措置、不服申し立てメカニズム、顔年齢推定が最終的に庇護決定にどのように影響するかなど、一連の質問に21日以内に回答するよう求めている。

この論争は、年齢評価に関するより広範な意見の相違も浮き彫りにしている。内務省が成人を装う子どもの事例を強調する一方、活動家は脆弱な子どもが成人として扱われるリスクの方が大きいと主張する。それまで、政府のAI年齢推定技術は、機能すると言われているものの、その仕組みを完全には明らかにしていない。