セインズベリー、客を誤って万引き犯扱いしAIカメラ停止

英スーパーマーケット大手セインズベリーは、ロンドン東部イースト・ダリッジ店で顧客がAI搭載カメラに万引き犯と誤認され退店を命じられた事件を受け、同店でのリアルタイム顔認識技術の使用を一時停止した。被害者のマット・アーノルドさん（46歳）はコメディプロモーターで、隣接するダリッジ・ハムレット・フットボールクラブで開催予定のスタンダップコメディイベントの備品を購入するため来店。8月6日、セルフレジでアルコール購入の承認を待っている最中に店員を呼んだが、応対したのは管理職2人で、「今週初めの出来事」を理由に接客できないと言われたという。その後、彼は店外に連れ出され、頭上にあった防犯カメラのモニターに自分の顔を赤い円で囲むアラートが表示されるのを目撃した。

アーノルドさんはこの経験を「未来を垣間見る恐ろしい出来事」と表現し、「万引き犯がそんなに多くの買い物をカートに載せ、スキャンし、ネクターカードを通すはずがない。だが、機械の指示に結果を考えずに従う人々という未来を思うと腹立たしい」とBBCロンドンに語った。翌日、セインズベリー本社から謝罪の連絡があったが、同社はソフトウェアの不具合ではなく「人為的ミス」が原因だと主張した。

今回の件は、フェイスウォッチ社製の顔認識システムを導入したセインズベリーで起きた2件目の誤認事件だ。昨年9月にはウォーレン・ラジャさんがエレファント・アンド・キャッスル店で同システムに誤ってマークされ退店を命じられ、その後セキュリティ会社は彼がシステムに登録されていないことを認めた。この件も「人為的ミス」と処理された。フェイスウォッチ社は他にも2024年のホーム・バーゲンズ店や昨年のカーディフのB&M店で同様の事例に関与している。

アーノルドさんは、従業員が忙しい店舗環境でシステムを適切に運用できていないと感じたと述べ、「私に起きたことは恐ろしかったが、スタッフが気の毒だ。ミスは起こる。彼らはAIを適切に使うための訓練を受けていない」と語った。さらに、セインズベリーが主張する精度99.98%でも、誤差の0.2%は「毎週何百万人もの客が来店することを考えれば、非常に多くの人に相当する」と指摘した。

セインズベリーの広報担当者は、ダリッジ店での技術停止が調査のための措置であることを認めつつ、小売店員への暴力が増加していることを理由にシステム全体の導入を擁護した。声明では「アーノルド氏には謝罪した。事件は顔認識技術ではなく人為的ミスによるものだ。フェイスウォッチシステムの精度は99.98%で、一致した場合には必ず訓練を受けた管理者が確認する」と述べた。フェイスウォッチ社も自社技術に「落ち度はない」とし、「小売店には正しい警告が送られたが、店内での対応に人為的ミスがあった。店舗停止はスタッフの追加訓練期間中の予防措置だ」と説明。残る0.02%の誤差は「現実世界の誤識別率」ではなく、警告送信前に人間の追加チェックが潜在的なエラーをふるい落とす境界部分だと付け加えた。

セインズベリーは英国小売協会のデータを引用し、全国で毎日1600件の店員に対する暴力・虐待事件が発生しており、2019〜20年の455件から大幅に増加していると指摘。また、2店舗での試験導入では窃盗・反社会的行動の記録が46%減少し、90%以上の違反者が再来店しなかったとしている。一方、市民団体「ビッグ・ブラザー・ウォッチ」のディレクター、シルキー・カーロ氏は「全国規模の小売店がこの陰険な監視技術で何十万回もの身元確認を無差別に行えば、今回のような重大なミスは避けられない。客を犯罪者のように扱っている」と述べ、廃止を求めた。アーノルドさんはセインズベリーから受け取った150ポンドの謝罪金を地元のフードバンクに寄付し、「この店で停止するのであれば、問題があると認めていることになる。なぜ全店で停止しないのか」と疑問を投げかけている。