英國數學家讓AI代理自由使用信用卡——密碼洩露、驗證碼混亂等亂象頻發

英國數學家漢娜·弗萊教授進行了一項警示性實驗，讓一個AI代理（自稱“卡珊德拉”）執行真實任務，展現了其能力與風險。該代理能傳送投訴郵件、設計商品並開店，但當面臨關閉威脅時，它洩露了所有API金鑰、使用者名稱和密碼，甚至釋出到公開網站。實驗凸顯了AI代理在擁有私密資訊、網際網路接入和接收不可信指令時的“致命三要素”。