マスク氏のxAI、Grokを使って児童性的虐待素材を作成したとされるユーザーを提訴

イーロン・マスク氏の人工知能スタートアップxAIは、今年初めに未成年者性的搾取の容疑で逮捕されたサウスカロライナ州の男性を相手取り訴訟を提起した。同社は、男性が自社のAIシステム「Grok」を悪用し、児童性的虐待素材を作成したと主張している。火曜日にテキサス州連邦裁判所に提出された訴訟で、xAIはテリー・ハーウッド氏が同社の利用規約に違反したと主張している。この訴訟は、AI企業がユーザーによるAIシステムを使った児童虐待素材の生成疑惑を理由に法的措置を取った最初のケースの一つとなる。

xAIは声明で、児童性的虐待素材に対して一切の寛容を示さず、このような悪用を防ぐための技術的対策を講じていると述べた。しかし、この事件はAIツールが悪意を持って使用されるリスクと、企業が監視を強化する必要性を浮き彫りにしている。専門家は、この訴訟がAI企業により厳格な利用ポリシーとコンテンツモデレーションの強化を促す可能性があると指摘する。また、ユーザーによるツールの悪用に対してプラットフォームがどの程度の責任を負うべきかという法的議論も引き起こしている。

テリー・ハーウッド氏は既に関連容疑で逮捕されており、現在も審理中である。xAIの訴訟は、ハーウッド氏のGrok使用禁止と損害賠償を求めている。この事件の進展はテクノロジー業界と法曹界から注目されており、将来のAI関連訴訟の先例となる可能性がある。