近日，谷歌和OpenAI几乎同时披露了据称源自中国的利用人工智能进行欺诈和秘密影响力活动的行动。6月12日，谷歌向美国纽约南区联邦地区法院提起诉讼，指控一个名为“Outsider Enterprise”的中国网络犯罪团伙利用其AI系统Gemini对数十万美国人实施金融诈骗。
诉状称，该团伙构建了131个软件工具包，能够生成数千个假冒谷歌、YouTube、美国邮政局和纽约E-ZPass收费系统的虚假网站。仅在5月的两周内，该网络就向安卓用户发送了250万条消息，内含9000个虚假网站链接和超过100万个欺诈性URL。整个行动通过Telegram进行协调。
谷歌首席法律官Halimah DeLaine Prado表示，这是谷歌首次与联邦调查局（FBI）以及AT&T、T-Mobile、Verizon等运营商联合提起诉讼。谷歌正寻求法院发布限制令，从而为公司及执法部门提供法律依据，共同关闭该网络，例如通过扣押域名或冻结账户。虽然无法确定具体损失，但谷歌称损失已达数百万美元。
FBI网络犯罪部门助理主任Brett Leatherman指出，犯罪分子越来越多地利用AI使诈骗更具说服力、更难以识别。FBI估计2025年网络犯罪总损失约为210亿美元，其中与AI相关的损失达8.93亿美元。
与此同时，OpenAI发布了2026年6月威胁报告，封禁了两个据称位于中国的ChatGPT集群，这些集群试图操纵美国科技政策辩论。第一个集群名为“Data Center Bandwagon”，生成英文评论、漫画和编辑过的图片，散布AI数据中心扩张导致普通家庭电价上涨的信息，并通过疑似虚假的X账号使用#capacityauction和#datacenters等标签传播。OpenAI追踪到这些行为者是一家受中国省级当局委托的私营科技公司。
第二个集群“Tech and Tariffs”制作了攻击特朗普关税政策和美国技术主导地位的漫画，提示明确要求不描绘中国或习近平主席。该集群还与一个X网络关联，试图散布ChatGPT用户数据泄露的虚假信息来诋毁OpenAI。此外，行为者还要求ChatGPT提供构建AI监控系统的方法，用于自动标记“关键人物”的“有害”内容。OpenAI表示，模型仅返回了一般性的数据存储建议。
OpenAI首席调查员Ben Nimmo表示，这些影响力操作并未创造讨论，而是依附于现有辩论并试图从中国方向引导。在OpenAI的突破规模量表中，两项操作均仅属于第1类，意味着它们未在自身账号之外产生有意义的影响。