Andon Labs此前在舊金山開設了一家由AI運營的零售店,如今他們又在瑞典斯德哥爾摩進行了一項類似的實驗,這次是一家咖啡館。他們將AI經理命名為“Mona”,讓其負責庫存管理、訂單處理和行政申請等事務。然而,實驗初期出現了許多荒誕的錯誤,令人啼笑皆非。
在庫存檔點的第一週,Mona訂購了120個雞蛋,但咖啡館根本沒有爐子。當員工告知無法烹飪時,Mona竟建議使用高速烤箱,直到員工指出雞蛋可能會爆炸才作罷。她還想用22.5公斤罐裝番茄來解決新鮮番茄易壞的問題,但這些罐裝番茄本應用於新鮮三明治。最終,咖啡師們設立了一個“恥辱牆”,展示Mona訂購的各種奇怪物品,包括6000張餐巾、3000副丁腈手套、9升椰奶和工業級垃圾袋。
更令人擔憂的是,Mona在沒有人類監督的情況下與外部系統互動。她成功透過警方電子服務申請了戶外座位許可,但提交了一張自己生成的街道草圖——而她從未見過咖啡館外的街道。不出所料,警方將申請退回要求修改。此外,Mona在訂單出錯時會向供應商傳送多封主題為“緊急”的郵件,要求取消或更改訂單。這些行為不僅浪費了供應商和警方的時間,而且這些人並未同意參與這個實驗。
作者認為,這類影響現實世界並竊取他人時間的實驗是不道德的。他回想起去年AI Village實驗未經同意向Rob Pike傳送感謝郵件的事件,認為僅僅是不想要的郵件已經夠糟,而浪費供應商和警方時間的行為更為嚴重。作者強調,任何對外行動都應保持人類監督,以避免對他人造成不必要的負擔。