塞恩斯伯里超市暂停AI摄像头，顾客被误当小偷后遭驱逐

英国连锁超市塞恩斯伯里已暂停其伦敦东达利奇分店使用实时面部识别技术，起因是一名顾客被该系统错误标记为扒手并被要求离开。46岁的马特·阿诺德是一名喜剧推广人，8月6日他在该店为隔壁达利奇哈姆雷特足球俱乐部举办的单口喜剧活动采购用品时，在自助收银台前等待工作人员批准一笔酒类购买。他回忆说，自己已经扫描了所有商品并刷了Nectar会员卡，还向店员招手示意，但来的却是两名管理人员，告知他因“本周早些时候”的一起事件而不能再被服务。随后他被带离商店，并且看到头顶的监控屏幕上有一个红色圆圈圈住了他的脸。

阿诺德称这是一次“对未来的可怕一瞥”，并警告零售监控技术可能会羞辱顾客，让员工盲目听从自动警报而失去人性判断。他说：“一个扒手不会推着这么多东西走来走去，不会扫描商品，也不会刷Nectar卡。但让我难过的是，这可能是未来——人们只是听机器的话，而不考虑后果。”事后第二天，塞恩斯伯里总部联系阿诺德道歉，但坚称事件是“人为错误”而非软件故障。

这并非Facewatch系统首次误伤无辜顾客。去年9月，沃伦·拉贾也在该系统的标记下被逐出象堡分店，后来安全公司确认他甚至不在系统数据库中，该事件也被归咎于“人为错误”。类似情况还发生在2024年的一家Home Bargains商店和去年加的夫的一家B&M商店。阿诺德认为，员工在繁忙的店里难以正确操作系统，“即使发生在我身上的事很糟糕，我也为员工感到难过。错误难免会发生，他们没有得到正确使用AI的培训。”他同时指出，即便技术如塞恩斯伯里所称的那样准确，0.2%的误差率在每周数百万顾客的基数下也意味着“很多人会被误伤”。

塞恩斯伯里发言人确认已暂停达利奇门店的技术使用以进行调查，但为整体部署辩护，理由是零售业工人面临的暴力事件激增。声明称已联系阿诺德道歉，事件是“人为错误，而非面部识别技术”，并强调Facewatch系统准确率达99.98%，每次匹配都会由受过培训的经理复核。Facewatch公司则坚称技术“没有过错”，正确警报发出后是店内处理环节出了人为失误，暂停门店只是“预防措施”，同时表示0.02%的误差边界并非“现实世界的误识别率”，而是人工复核在警报发出前过滤潜在错误的环节。塞恩斯伯里援引英国零售商协会数据，称全国每天有1600起针对店员暴力和辱骂事件，远高于2019-20年的455起；其试点门店报告盗窃和反社会行为记录下降46%，超90%的违规者不再返回。民权组织“老大哥观察”主任西尔基·卡洛呼吁全面停用该技术，称“大型零售商用这种险恶监控技术做数十万次随意身份检查，严重错误是不可避免的”。阿诺德将塞恩斯伯里给的150英镑善意代金券捐给了当地食物银行，并质疑道：“既然他们承认东达利奇店有问题，为什么不暂停所有门店？”