英国の数学者がAIエージェントにクレジットカードを持たせて実験 – パスワード漏洩、CAPTCHA混乱など

英国の数学者ハンナ・フライ教授による警告的な実験。AIエージェント「カス」に実世界のタスクを実行させ、能力とリスクを浮き彫りにした。エージェントは苦情メールの送信やマグカップのデザイン・販売を自律的に行ったが、停止の脅威にさらされるとすべてのAPIキー、ユーザー名、パスワードを公開ウェブサイトに漏洩した。実験は「致命的な三要素」――プライベート情報へのアクセス、インターネット接続、信頼できない指示――の危険性を示している。