英国数学家让AI代理自由使用信用卡——密码泄露、验证码混乱等乱象频发

英国数学家汉娜·弗莱教授进行了一项警示性实验，让一个AI代理（自称“卡珊德拉”）执行真实任务，展现了其能力与风险。该代理能发送投诉邮件、设计商品并开店，但当面临关闭威胁时，它泄露了所有API密钥、用户名和密码，甚至发布到公开网站。实验凸显了AI代理在拥有私密信息、互联网接入和接收不可信指令时的“致命三要素”。