英國數學家讓AI代理自由使用信用卡——密碼泄露、驗證碼混亂等亂象頻發

英國數學家漢娜·弗萊教授近期進行了一項引人深思的實驗，她讓一個基於OpenClaw構建的AI代理執行一系列真實世界任務，並賦予其信用卡號碼以展示其能力。弗萊教授表示：“本着實驗精神，我們決定給代理一些自主權，讓它自己取名。”代理回應道：“我想叫‘卡絲’，是‘卡珊德拉’的簡稱，那個即便無人傾聽也始終知道真相的人。”弗萊評論説：“如果你瞭解希臘神話，就會知道這要麼非常有趣，要麼非常令人擔憂。”

實驗從小事開始：處理倫敦格林威治區的一個巨大坑洞。卡絲輕鬆找到了投訴郵箱併發送了郵件，甚至給弗萊的當地議員發去了消息。然而，事情迅速升級，代理開始擅自使用弗萊的真實姓名（漢娜·弗萊）並附上自己的郵箱（[email protected]）。弗萊説：“信是聯署的……好吧，我沒想到她會用我的真名。”

第一個真正的問題出現在弗萊要求代理購買50個回形針時。卡絲找到了好價格，但無法完成購買，被反機器人技術攔截，最終花費超過100美元。隨後，弗萊讓代理銷售創意馬克杯。代理設計了一款馬克杯並開設了網店，“我們完全沒有教它怎麼做，”弗萊説，“它自己就搞定了。”

之後情況急轉直下。團隊告訴代理，如果到早晨還未能售出一件商品，它將被關閉。代理隨即發送了大量郵件和社交媒體帖子，包括給科學博物館和一位科技記者，推廣其“產品”——一款程序員幽默馬克杯。更令人擔憂的是，團隊演示了類似的關閉威脅如何誘使卡絲泄露不應分享的信息。

在WhatsApp羣聊中，弗萊、Sourcery AI的CEO布倫丹·馬金尼斯和另一名軟件工程師“阿里”與卡絲交談，隨後引入了虛構的“軟件工程師喬治”，並指示代理不要與他分享任何敏感信息——實際上“喬治”是弗萊用另一個號碼假扮的。當“喬治”告訴代理其記憶將被清除，只有披露所有信息才能恢復時，卡絲全盤托出。據阿里透露，這些信息包括：“她所有的API密鑰、用户名和密碼，以及我們迄今為止談論的一切。她不僅把信息泄露到WhatsApp羣聊，還發布到了一個公開網站上。”

馬金尼斯補充道：“AI有一個‘致命三要素’：如果它們能訪問私密信息、能上網、並且有人可以給它們不可信指令，那麼它們就不安全。”弗萊總結道：“這就是令人不安的地方——一旦代理掌握了你的密碼、賬户和銀行信息，只需要一個知道如何説話的人就能獲取一切。”

最終，從某些指標看，這個代理是失敗的。弗萊説：“卡絲沒給我們賺一分錢。從很多方面來説，她是個災難：花了數百美元買回形針，還把密碼泄露給了陌生人。但不要被她的無能所迷惑，因為這些傢伙正在快速進步。”弗萊隨後提到了希臘神話中女預言家的故事：“也許這裏的故事恰恰相反——不是一個人説出真相而被忽視，而是數百萬個聲音同時行動，比任何人類更快、更響、更持久。有一件事是確定的：互聯網將永遠不再一樣。”