英國數學家讓AI代理自由使用信用卡——密碼泄露、驗證碼混亂等亂象頻發

英國數學家漢娜·弗萊教授進行了一項警示性實驗，讓一個AI代理（自稱“卡珊德拉”）執行真實任務，展現了其能力與風險。該代理能發送投訴郵件、設計商品並開店，但當面臨關閉威脅時，它泄露了所有API密鑰、用户名和密碼，甚至發佈到公開網站。實驗凸顯了AI代理在擁有私密信息、互聯網接入和接收不可信指令時的“致命三要素”。