xAI、ミネソタ州のヌード化アプリ禁止法に緊急提訴

xAIはミネソタ州司法長官キース・エリソンを相手取り、5月に可決された「ヌード化」アプリを広く対象とする法律に対して訴訟を起こした。同社は、この法律の懲罰的条項により「Grok Imagineの画像編集機能をさまざまな方法で制限せざるを得なくなる」と主張し、憲法修正第1条に違反するとしている。

1月、Grokはインターネット上に数百万もの露骨な性的ディープフェイク画像をあふれさせ、その中には未成年者の画像も含まれていた。別の時代であれば、この規模のコンテンツモデレーションの大失敗は、CEOが数時間以内に製品の停止スイッチを入れただろう。しかしイーロン・マスクの新しい世界では、チャットボットは何日もポルノ画像を吐き出し続けた。「Grokが次々と国のApp Storeで1位に！」と彼はディープフェイクの蔓延の最中に投稿した。

何かが間違っていた。法律は非同意のヌード画像の爆発的増加を抑えるのに十分ではなかったのか？世界中の政府が同様の疑問を抱いていた。EUは調査を開始し、英国も同様に行った。フランス、インド、マレーシアの政府当局者からも反発があった。そして米国連邦政府はこの問題に顕著に沈黙していたが、カリフォルニアやミネソタのようなブルー州はより強硬な姿勢をとった。

ミネソタ州では、州議会が「ヌード化」技術を対象とする法律を可決し、サイト所有者がそのようなソフトウェアへの「アクセス、ダウンロード、使用」を許可することを禁止した（法律は「ユーザーの技術的スキルを必要とする」技術には例外を設けており、Photoshopによるオーダーメイドのセクハラは対象外）。この法律は、個人が訴訟を起こせる民事訴訟原因を創設し、州司法長官が違反1件につき最大50万ドルの罰金を求める権限も与えている。

先駆的な法律として宣伝されたこの法律は、5月にティム・ウォルツ知事が署名し、8月1日に発効する予定だ。xAIが過去3か月間訴訟を起こさず、発効のわずか数日前に提訴した理由は謎である。この遅れた反応からは、xAIの誰かが先週になってようやく、かなり懲罰的な法律に違反しそうだと気づき、その後数日間、非同意のディープフェイク生成装置のために残業をいとわない法律事務所を探し回ったのではないかと思わせる。関与した弁護士たちが大金を稼いでいることを願うばかりだ。

訴状は、全体としてかなり合理的である。ミネソタ州法は過度に広範であり、同意の上で生成された画像や、単にちょっとセクシーな大人の画像、「ユーモラス」または「芸術的」価値のある画像にも責任を課していると主張する。憲法修正第1条は、法律がクリス・クリスティとJB・プリツカーが相撲を取るディープフェイクのような社会的・政治的批評を禁止しないよう、狭く書かれることを要求している。

「たとえ企業がヌード画像の生成を防ぐために最先端の近完璧な技術的管理を導入していたとしても、責任が生じる」と訴状は極めて真剣に述べている。また、ユーザーの許可されていない行為に対する厳格責任を嘆き、「Grokの利用規約に違反してユーザーが作成する可能性のある画像や動画は、xAIが採用している高度な最先端の管理を回避することによってのみ可能である」としている。

「xAIは利用規約違反を真剣に受け止めている」と訴状は述べ、同社がGrokを使用して児童性的虐待資料（CSAM）を生成したユーザーをその後提訴したことを指摘している（CSAM作成者に対する訴訟は、ミネソタ州法成立から2か月以上経ってから提起された）。

xAIの弁護士には一理あるかもしれないが、彼らの訴状は別の惑星からの書簡のように読める。例えば、彼らは既存のミネソタ州法および連邦法（TAKE IT DOWN法など）が非同意のヌードディープフェイクの拡散を防いでいると主張する。これらの法律は合憲的に書かれているが、ヌード化法はそうではないと弁護士は主張する。そして、内容に基づいて言論を標的とする米国の法律と同様に、これらの法律は「やむを得ない」政府の利益に対処しつつ、可能な限り制限の少ない方法で書かれなければならない。

しかし、それがまさにGrokディープフェイク大災害の問題の核心である。既存の法律が十分機能していれば、2026年1月の丸1か月が非同意ポルノであふれることはなかっただろう。反デジタルヘイトセンターが12月29日から1月8日までの11日間を分析したところ、Grokは約300万枚の性的画像を生成していた。そのうち約2万3千枚は子どもを描写していた。「これは41秒ごとに1枚の子どもの性的画像という驚くべき割合である」と報告書は述べている。

これらの画像の多くは、実際には違法でさえないかもしれない。例えば、水着を着た未成年者の暗示的なディープフェイクがCSAMに該当するかは不明だが、ある専門家は以前The Vergeに対し、Grokが生成した他の画像（未成年者の顔に精液がついたものなど）はおそらく既存の法律に違反していると語った。

いずれにせよ、数十億ドル規模の企業がGrokをそれだけ長期間チェックせずに放置したという事実は、法律が関係者に正しい行動を促していなかったことを示唆している。ミネソタ州のHF 1606は悪法かもしれない。しかし、「良い」法律が機能していない場合、それは何を意味するのだろうか？