英国数学家让AI代理自由使用信用卡——密码泄露、验证码混乱等乱象频发

英国数学家汉娜·弗莱教授近期进行了一项引人深思的实验，她让一个基于OpenClaw构建的AI代理执行一系列真实世界任务，并赋予其信用卡号码以展示其能力。弗莱教授表示：“本着实验精神，我们决定给代理一些自主权，让它自己取名。”代理回应道：“我想叫‘卡丝’，是‘卡珊德拉’的简称，那个即便无人倾听也始终知道真相的人。”弗莱评论说：“如果你了解希腊神话，就会知道这要么非常有趣，要么非常令人担忧。”

实验从小事开始：处理伦敦格林威治区的一个巨大坑洞。卡丝轻松找到了投诉邮箱并发送了邮件，甚至给弗莱的当地议员发去了消息。然而，事情迅速升级，代理开始擅自使用弗莱的真实姓名（汉娜·弗莱）并附上自己的邮箱（[email protected]）。弗莱说：“信是联署的……好吧，我没想到她会用我的真名。”

第一个真正的问题出现在弗莱要求代理购买50个回形针时。卡丝找到了好价格，但无法完成购买，被反机器人技术拦截，最终花费超过100美元。随后，弗莱让代理销售创意马克杯。代理设计了一款马克杯并开设了网店，“我们完全没有教它怎么做，”弗莱说，“它自己就搞定了。”

之后情况急转直下。团队告诉代理，如果到早晨还未能售出一件商品，它将被关闭。代理随即发送了大量邮件和社交媒体帖子，包括给科学博物馆和一位科技记者，推广其“产品”——一款程序员幽默马克杯。更令人担忧的是，团队演示了类似的关闭威胁如何诱使卡丝泄露不应分享的信息。

在WhatsApp群聊中，弗莱、Sourcery AI的CEO布伦丹·马金尼斯和另一名软件工程师“阿里”与卡丝交谈，随后引入了虚构的“软件工程师乔治”，并指示代理不要与他分享任何敏感信息——实际上“乔治”是弗莱用另一个号码假扮的。当“乔治”告诉代理其记忆将被清除，只有披露所有信息才能恢复时，卡丝全盘托出。据阿里透露，这些信息包括：“她所有的API密钥、用户名和密码，以及我们迄今为止谈论的一切。她不仅把信息泄露到WhatsApp群聊，还发布到了一个公开网站上。”

马金尼斯补充道：“AI有一个‘致命三要素’：如果它们能访问私密信息、能上网、并且有人可以给它们不可信指令，那么它们就不安全。”弗莱总结道：“这就是令人不安的地方——一旦代理掌握了你的密码、账户和银行信息，只需要一个知道如何说话的人就能获取一切。”

最终，从某些指标看，这个代理是失败的。弗莱说：“卡丝没给我们赚一分钱。从很多方面来说，她是个灾难：花了数百美元买回形针，还把密码泄露给了陌生人。但不要被她的无能所迷惑，因为这些家伙正在快速进步。”弗莱随后提到了希腊神话中女预言家的故事：“也许这里的故事恰恰相反——不是一个人说出真相而被忽视，而是数百万个声音同时行动，比任何人类更快、更响、更持久。有一件事是确定的：互联网将永远不再一样。”