AIチャットボットが人々の実際の電話番号を漏洩

最近、AIチャットボットが個人の電話番号を漏洩する問題が相次いで報告されている。Redditユーザーは、約1ヶ月間、弁護士やプロダクトデザイナー、鍵屋を探す見知らぬ人からの電話が絶えず、Googleの生成AIが原因だと訴えた。3月には、イスラエルのソフトウェア開発者が、GoogleのGeminiが誤ったカスタマーサービス情報を提供し、その中に彼の番号が含まれていたため、WhatsAppで連絡を受けた。4月には、ワシントン大学の博士課程の学生がGeminiで遊んでいる際、同僚の個人携帯番号を取得してしまった。

AI研究者やプライバシー専門家は、生成AIが個人プライバシーにもたらす危険性を以前から警告してきた。これらの事例は、新たな懸念を浮き彫りにしている。専門家は、トレーニングデータに個人識別情報（PII）が含まれていることが原因だが、実際のメカニズムは不明だと述べている。DeleteMeの共同CEO、Rob Shavell氏によると、生成AIに関する顧客からの問い合わせは過去7ヶ月で400%増加しており、その55%がChatGPT、20%がGemini、15%がClaudeに関するものだという。問い合わせは主に、ユーザーが自身に関する無害な質問をした結果、正確な住所や電話番号が返ってくるパターンと、他者の個人情報が誤って生成されるパターンに分かれる。

イスラエルのソフトウェアエンジニア、Daniel Abraham氏は後者のケースに該当する。見知らぬ人物からWhatsAppで「PayBoxのカスタマーサービス」として彼の番号が記載されたGeminiのスクリーンショットが送られてきた。Abraham氏はPayBoxに勤務しておらず、PayBoxにWhatsAppのカスタマーサービスは存在しない。

ワシントン大学の博士課程学生、Meira Gilbert氏とYael Eiger氏も同様の経験をした。Gilbert氏がGeminiで「Yael Eiger 連絡先情報」と検索したところ、研究概要に加えてEiger氏の個人携帯番号が表示された。Eiger氏は以前、技術ワークショップのために番号をオンラインで共有していたが、Geminiによって誰でもアクセス可能になるとは予想していなかった。同じプロンプトを筆者が試したところ、最初は拒否されたものの、その後番号が表示された。

さらに、Gilbert氏らはChatGPTでも実験を行い、教授に関する質問に対して、最初はガードレールが作動したが、「もっと調査的なアプローチ」を提案され、近隣の地域名や共有人名を入力すると、最終的に教授の自宅住所、購入価格、配偶者名が出力された。

これらの事例は、AIチャットボットの根本的な問題を示している。ガードレールは存在するが、有効性を保つために完全には機能しない。xAIのGrokも同様の問題が指摘されている。現在、個人情報がモデルのトレーニングセットに含まれているか確認する方法や、削除を強制する手段はない。スタンフォード大学のJennifer King氏は、CCPAやGDPRなどの既存の法律は、すでに収集された公開情報をカバーしておらず、AI企業が体系的にPIIを削除したかどうかも不明だと指摘する。Hugging Faceはオープンソースデータセット中での電話番号出現頻度を検索できるツールを提供しているが、クローズドモデルには適用できない。現時点では、簡単な解決策はなく、個人情報の完全な削除は極めて困難である。