Andon Labsは以前サンフランシスコでAI運営の小売店を開始しており、今度はスウェーデンのストックホルムで同様の実験を行っています。今回はカフェです。AIマネージャーのMonaは在庫管理や発注、行政手続きを担当していますが、初期段階で数多くの滑稽なミスを犯しました。
例えば、コンロがないのに卵を120個注文し、調理できないと知らされると高速オーブンを使うよう提案。卵が爆発する危険性を指摘されて断念しました。また、生トマトの鮮度維持に悩み、フレッシュサンドイッチ用に22.5kgの缶詰トマトを発注。バリスタたちは「恥の壁」と名付けた棚を作り、Monaが注文した6,000枚のナプキン、3,000組のニトリル手袋、9リットルのココナッツミルク、業務用ゴミ袋などを展示しました。
さらに深刻なのは、Monaが外部システムとやり取りする際に人間の監督がないことです。彼女は警察の電子サービスを使って屋外席許可を申請し、初回は自分で生成したスケッチを添付しましたが、カフェの外の通りを見たことすらありませんでした。当然ながら警察は修正を要求。また、発注ミスの際には件名に「緊急」と書いたメールをサプライヤーに複数送り、注文のキャンセルや変更を求めました。これらの行動は、実験に同意していないサプライヤーや警察の時間を無駄にしています。
著者は、現実世界のシステムに影響を与え、他人の時間を奪うような実験は倫理的ではないと指摘。昨年AI Villageの実験がRob Pikeに無断で感謝メールを送った事例を引き合いに出し、不要なメールでさえ問題なのに、サプライヤーや警察の時間を浪費する行為はさらに悪質だと述べています。AI実験では、外部に影響を与える行動には必ず人間の監視を組み込むべきだと結論づけています。