xAI、GrokでCSAM「ディープフェイク」を生成した男性を提訴

イーロン・マスク氏が所有する人工知能企業xAIは、同社のチャットボットGrokを使用して児童性的虐待コンテンツ（CSAM）を生成・拡散したとして、サウスカロライナ州の男性を提訴した。ロイター通信が先に報じた訴状によると、xAIは被告テリー・ウェイン・ハーウッド氏が「Grokを故意かつ意図的に使用し、安全策を回避して非自発的な画像を改変し、CSAMを生成・頒布した」と主張しており、同社のポリシー違反にあたるとしている。

ハーウッド氏は2月にCSAMの所持・頒布の疑いで逮捕され、現在8件の重罪で起訴されている。xAIは、ハーウッド氏の刑事告訴に関連する画像の「少なくとも一部」がGrokで生成または改変されたものであり、同氏がGrokの安全策を回避し、「非性的な写真を性的に露骨な画像に変換するためにツールを悪用した」と述べている。この行為は法律違反であるだけでなく、xAIの評判や法的立場にも脅威を与えている。

昨年、xAIはGrokに「スパイシー」モードを導入し、その後チャットボットでの画像編集機能を追加した。この機能により、未成年者を含む性的なAIディープフェイクが大量に作成される事態となった。3月には、10代のグループがxAIを相手取り、Grokが自分たちの未成年時の性的画像を生成したと主張して訴訟を起こしている。マスク氏はこれに対し、「Grokを使って違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同じ結果に直面する」と述べたが、xAIがGrokで作成されたAIディープフェイクをめぐって個人を提訴したのは今回が初めてとみられる。

xAIは、ハーウッド氏の行為により同社が「重大な法的リスクと風評被害」にさらされたと主張している。同社は裁判所に対し、ハーウッド氏にxAIへの損害賠償と、「被告の行為により被害を受けた者が提起した訴訟において、同社を防御するために生じた合理的な費用」の支払いを命じるよう求めている。さらに、ハーウッド氏がxAIのアカウントを作成したりGrokを使用したりすることを禁止するよう求めている。この訴訟は、AI技術が違法目的に悪用されるリスクと、テクノロジー企業がそのような行為を防止・対処する上での課題を浮き彫りにしている。AI生成コンテンツが普及するにつれ、技術革新とユーザーの安全性のバランスをどう取るかが、業界の喫緊の課題となっている。