グーグル、FBIと初の共同訴訟で中国のAI詐欺ネットワークを提訴、OpenAIは中国の影響力クラスターをブロック

グーグルとOpenAIはほぼ同時期に、中国発とみられる人工知能（AI）を悪用した詐欺および秘密の影響力工作を暴露した。6月12日、グーグルは米ニューヨーク南部地区連邦地方裁判所に、「Outsider Enterprise」と呼ばれる中国のサイバー犯罪ネットワークを提訴した。訴状によると、同グループはグーグルのAIシステム「Gemini」を利用して、数十万人の米国人を対象に金融詐欺を行った。

被告らは131のソフトウェアキットを構築し、グーグル、YouTube、米郵便公社、ニューヨークのE-ZPass料金システムを模した数千の偽サイトを生成した。5月の2週間で、このネットワークはAndroidユーザーに250万件のメッセージを送信し、その中には9000の偽サイトへのリンクと100万以上の不正URLが含まれていた。この活動はTelegramを通じて調整されていた。

グーグルの最高法務責任者Halimah DeLaine Prado氏は、今回がFBIやAT&T、T-Mobile、Verizonなどの通信事業者と協力した初めての訴訟であると述べた。グーグルは、ドメインの押収や口座の凍結など、ネットワークを共同で閉鎖する法的根拠を企業や法執行機関に与える制限命令を求めている。損害額は数百万ドルに上るとみられる。

FBIサイバー部門のBrett Leatherman副部長は、犯罪者がAIを利用して詐欺をより巧妙化させていると指摘。FBIは2025年のサイバー犯罪による総損失を約210億ドル、うちAI関連を8億9300万ドルと推定している。

一方、OpenAIは「2026年6月脅威レポート」を発表し、中国を拠点とする2つのChatGPTクラスターを停止した。これらのクラスターは米国のテクノロジー政策に関する議論を操作しようとしていた。1つ目のクラスター「Data Center Bandwagon」は、AIデータセンターの拡大が一般家庭の電気代を押し上げているというメッセージを広める英文コメントや漫画を生成し、不自然なXアカウントを通じて拡散した。OpenAIはこれらの行為者が中国の地方政府の委託を受けた民間テクノロジー企業であると特定している。

2つ目のクラスター「Tech and Tariffs」は、トランプ大統領の関税政策や米国の技術支配戦略を攻撃する漫画を制作。プロンプトでは中国や習近平国家主席を描かないよう明示的に指示していた。このクラスターは、ChatGPTのユーザーデータが漏洩したという虚偽の主張でOpenAI自体を信用失墜させようとするXネットワークとも関連していた。また、行為者は「重要人物」からの「有害なコンテンツ」を自動的にフラグするAI監視システムの構築アプローチをChatGPTに求めていたが、OpenAIはモデルが一般的なデータ保存のヒントのみを返したと述べている。

OpenAIの主任調査官Ben Nimmo氏は、これらの影響力工作は議論を創出したのではなく、既存の議論に便乗して中国側から方向付けようとしたものだと指摘。OpenAIの影響力尺度では、両方の工作はカテゴリー1に過ぎず、自身のアカウントを超えて有意義に拡散することはなかった。