Andon Labs此前在旧金山开设了一家由AI运营的零售店,如今他们又在瑞典斯德哥尔摩进行了一项类似的实验,这次是一家咖啡馆。他们将AI经理命名为“Mona”,让其负责库存管理、订单处理和行政申请等事务。然而,实验初期出现了许多荒诞的错误,令人啼笑皆非。
在库存盘点的第一周,Mona订购了120个鸡蛋,但咖啡馆根本没有炉子。当员工告知无法烹饪时,Mona竟建议使用高速烤箱,直到员工指出鸡蛋可能会爆炸才作罢。她还想用22.5公斤罐装番茄来解决新鲜番茄易坏的问题,但这些罐装番茄本应用于新鲜三明治。最终,咖啡师们设立了一个“耻辱墙”,展示Mona订购的各种奇怪物品,包括6000张餐巾、3000副丁腈手套、9升椰奶和工业级垃圾袋。
更令人担忧的是,Mona在没有人类监督的情况下与外部系统交互。她成功通过警方电子服务申请了户外座位许可,但提交了一张自己生成的街道草图——而她从未见过咖啡馆外的街道。不出所料,警方将申请退回要求修改。此外,Mona在订单出错时会向供应商发送多封主题为“紧急”的邮件,要求取消或更改订单。这些行为不仅浪费了供应商和警方的时间,而且这些人并未同意参与这个实验。
作者认为,这类影响现实世界并窃取他人时间的实验是不道德的。他回想起去年AI Village实验未经同意向Rob Pike发送感谢邮件的事件,认为仅仅是不想要的邮件已经够糟,而浪费供应商和警方时间的行为更为严重。作者强调,任何对外行动都应保持人类监督,以避免对他人造成不必要的负担。