AI聊天机器人正在泄露人们的真实电话号码
越来越多的人报告称，谷歌AI等聊天机器人会泄露个人电话号码，且目前似乎没有简单的防范方法。专家指出，这与训练数据中包含个人身份信息（PII）有关，但具体机制尚不明确。删除个人信息的需求在过去七个月增长了400%，但现有的隐私保护措施和法规存在不足。
近日，多名用户报告称，他们收到了陌生人通过AI聊天机器人泄露的电话号码。一名Reddit用户表示，他的手机在过去一个月内不断接到陌生人打来的电话，这些人声称在寻找律师、产品设计师或锁匠，而他们均错误地使用了谷歌的生成式AI。三月份，一名以色列软件开发者被陌生人通过WhatsApp联系，原因是谷歌聊天机器人Gemini给出了错误的客户服务说明，其中包含他的号码。四月份，一名华盛顿大学的博士生在测试Gemini时，发现它竟然输出了同事的个人手机号。
AI研究者和隐私专家长期以来一直警告生成式AI对个人隐私的威胁。这些案例表明，AI聊天机器人可能意外地暴露人们的真实电话号码。虽然难以确定AI内部的具体机制，但专家认为这与训练数据中包含个人身份信息（PII）有关。数据删除服务公司DeleteMe的联合创始人Rob Shavell表示，过去七个月内，与生成式AI相关的客户查询增长了400%，其中55%提及ChatGPT，20%提及Gemini，15%提及Claude。这些查询通常有两种形式：用户询问关于自己的无害信息却得到准确的家庭地址或电话号码，或者用户发现了他人的个人信息被错误地生成。
以色列软件工程师Daniel Abraham的经历正是后者：陌生人通过WhatsApp联系他寻求帮助，并展示了一张Gemini提供的PayBox客户服务说明截图，其中包含他的个人号码。Abraham并不为PayBox工作，PayBox也未有WhatsApp客户服务。Google广告业务部通讯负责人Alex Joseph未回应具体问题，仅表示“团队正在调查”。
华盛顿大学博士生Meira Gilbert和Yael Eiger也遇到了类似情况：当Gilbert在Gemini中搜索Eiger的联系方式时，除了研究信息外，还直接输出了Eiger的个人电话号码。Eiger曾在网上分享过该号码，但那是针对特定技术工作坊，并未期望如此公开可见。Gilbert尝试用同一提示再次查询，最初被拒绝，但随后仍然给出了号码。她们随后测试ChatGPT，发现通过诱导性提问，ChatGPT最终输出了教授的家庭住址、购买价格和配偶姓名。
这些事件凸显了AI聊天机器人的根本问题：它们虽设有防护措施，但为了保持有效性，难以完全阻止PII泄露。xAI的聊天机器人Grok也曾被曝出只需输入“姓名+地址”即可获取详细个人信息。目前，用户几乎无法要求从模型中删除自己的PII。斯坦福大学人工智能中心隐私与数据研究员Jennifer King指出，现有法律如CCPA和GDPR不覆盖已抓取的公开信息，且AI公司缺乏系统性PII清理机制。Hugging Face提供了一个工具，可查询电话号码在开源训练数据集中出现的频率，但这不适用于闭源模型。OpenAI设有隐私门户允许用户请求删除，但会平衡公共利益。目前尚无简单解决方案，个人信息的彻底清除难度极大。