自分の身体がディープフェイクポルノに使われる衝撃

ジェニファーが2023年に非営利団体の研究職に就いたとき、彼女は自分の新しいプロフェッショナル用のヘッドショットを顔認識プログラムにかけた。そのテクノロジーが、10年以上前、20代前半に制作したポルノ動画を引き出すかどうかを確かめたかったのだ。実際にそれらのコンテンツの一部が返ってきたが、同時に彼女がこれまで見たことのない憂慮すべきものも見つかった。それは彼女の古い動画だが、彼女の身体に他人の顔が合成されたものだった。「最初は違う人だと思った」と、プライバシー保護のために仮名で特定されているジェニファーは語る。しかし、彼女は2013年頃に撮影した動画の特徴的な派手な背景を認識し、気づいた。「誰かが私をディープフェイクに使っている」。不気味なことに、顔認識テクノロジーが彼女を特定できたのは、画像にジェニファーの特徴、つまり頬骨、眉毛、あごの形がまだ含まれていたからだ。「まるで他人の顔を仮面のようにかぶっているようだ」と彼女は言う。

性的なディープフェイク（非合意的親密画像、NCIIの傘下にある）に関する議論は、多くの場合、顔が実際にはしていないことや自分の身体ではない身体で何かをしているように見せかけられている人々に焦点を当てている。これらは多くの場合、有名な有名人だが、過去数年でより多くの人々（主に女性、時には若者）が標的にされ、警戒感、恐怖、さらには立法を引き起こしている。しかし、これらの議論や社会的対応は、通常、これらの画像や動画で顔が貼り付けられている身体には関心を払わない。現在37歳でニューヨーク市で心理療法士として働くジェニファーが言うように、「誰の身体なのかという議論は決してない」。

長年にわたり、答えは一般的に成人コンテンツ制作者だった。ディープフェイクは実際、2017年11月にRedditのユーザー名「deepfakes」がスカーレット・ヨハンソンやガル・ガドットなどのスターの顔をポルノ女優の身体に貼り付けた動画をアップロードしたときにその名を得た。成人産業を専門とする弁護士コーリー・シルバースタインは、彼らの身体の非合意的な使用はディープフェイクで「いつも起こっている」と言う。

しかし近年、生成AIが改良され、「ヌード化」アプリが普及し始めるにつれて、問題ははるかに複雑になり、おそらくクリエイターの将来にとってより危険なものになっている。ポルノ女優の身体はもはや必ずしも性的画像や動画から直接取られているわけではなく、少なくとも識別可能な方法ではない。代わりに、それらは必然的に、新しいAI生成の身体がどのように見え、動き、振る舞うかを知らせるためのトレーニングデータとして使用されている。これは、ポルノ女優の作品がAIのヌード画像のトレーニングに使用され、それが今度は彼らのビジネスを奪う可能性があるため、彼らの生計と権利を脅かす。それだけではない。AIの進歩により、人々は同意なしにこれらのパフォーマーの肖像を完全に再現できるようになり、AIのコピーキャットはパフォーマーが実際の生活では行わないことをするかもしれない。これは、彼らのデジタル双子が同意していない特定の性行為に参加したり、ファンに対する詐欺を実行したりすることを意味する可能性がある。

成人コンテンツ制作者は、彼らの安全と権利を守ることにほとんど失敗している社会によってすでに疎外されており、これらの進展は彼らをさらに脆弱な立場に追いやる。ジェニファーはディープフェイクを発見した後、心理的影響についてソーシャルメディアに投稿した。「身体が同意なく使われた人にとってそれがトラウマになるかどうかを尋ねる人を今まで見たことがない。それはそうだ！」私が話した他の数人のクリエイターは、自分の身体が非合意的に使用されていることを知ることの精神的負担と、他の人が自分の作品を海賊版にして経済的に苦しむのではないかという恐怖を共有した。シルバースタインは、毎日「自分のコンテンツがAIで悪用されていることを心配し、それを保護する方法を模索している」成人女優からの連絡を受けると言う。

女性に対する暴力を専門とするある法学教授は、これらのクリエイターをNCIIディープフェイクの「忘れられた犠牲者」と呼ぶ。私が話した数人の人々は、米国がオンライン上の非合意的性的コンテンツと戦うための法的枠組みを開発するにつれて、成人女優はさらに傷つけられるリスクにさらされているだけだと懸念している。ディープフェイクへの取り締まりは彼らを助けるどころか、彼らのコンテンツとキャリアがインターネットから完全に削除される抜け穴を提供する可能性がある。

ディープフェイクが「身体化された害」を引き起こす方法

1970年代の思春期、現在はポルノ男優であり成人コンテンツプラットフォームXChatFansの社長であるスパイク・アイアンズは、ファラ・フォーセットに「恋をしていた」。フォーセットはヌードポーズをとらなかったが、アイアンズは彼女の裸のように見える写真を手に入れた。「人々は顔を切り取って身体に貼り付けていた」とアイアンズは言う。「AI以前のディープフェイクはかなり前から存在していた。ただそれほど蔓延していなかっただけだ」。

初期の公共インターネットは、テクノロジーを使って有名人の裸を「見る」ことができるというアイデアを利用するウェブサイトで溢れていた。「人々はMicrosoft Paintを使っていただけだ」と弁護士シルバースタインは言う。有名人の顔とポルノを混ぜる簡単な方法だった。後に人々はAdobe After EffectsやFakeAppのようなソフトウェアを使用した。これらは画像や動画で2人の顔を交換するために設計された。これらのプログラムはコンテンツを変更するために深刻な専門知識を必要としなかったため、参入障壁は低かった。それに加えて、オンラインにあるポルノ女優の動画の豊富さが、2010年代までに実際の身体を使用した顔交換ディープフェイクの普及に貢献した。10年後半にガル・ガドットとエマ・ワトソンのディープフェイクがより広範なパニックを引き起こしたとき、彼女たちの顔はそれぞれポルノ女優のペッパーXOとメアリー・ムーディの身体に貼り付けられたとされている。

しかし、彼らのような高名な女優だけが身体を使われていたわけではない。ジェニファーは「非常にマイナーなパフォーマーだった」と語る。「私に起こったのなら、ポルノを撮った誰にでも起こりうると思う」。シルバースタインは、2006年に開業して以来、「数え切れないほどのクライアント」が「これは私の身体が誰かの顔に使われている」と報告するために連絡してきたと言う。

NCIIディープフェイクに顔が登場する人々と、そのように身体が使用される人々の両方が深刻な苦痛を感じる可能性がある。専門家はこの種の損害を「身体化された害」と呼ぶと、英国の戦略対話研究所でジェンダーに基づく暴力を研究するアン・クラーネンは言う。この用語は、コンテンツが仮想領域に存在していても、身体醜形症を含む生理学的影響を引き起こす可能性があるという事実を反映している。顔交換された実体は不気味の谷にあり、自己認識を歪める。性的ディープフェイクで自分の顔を発見した後、多くの人が沈黙を感じると専門家は私に語った。彼らはクラーネンが言うように「自己検閲」し、公の場から退くかもしれない。虐待 survivors と協力する弁護士アリソン・マホニーは、NCIIに顔が登場した人はうつ病、不安、自殺念慮を経験する可能性があると言う：「複数のクライアントが夜眠れず、髪が抜けていると話してくれた」。

独立したクリエイターは単に「カメラの前でセックスをしている」だけではない。誰かが「自分の娯楽や金銭的利益のために彼らの作品を盗用するのは本当にひどい」。

身体が使用された人々への影響はそれほど頻繁に議論され研究されていないが、ジェニファーは「自分が他人の虐待の一部であることを知るのは本当にひどい気持ちだ」と言う。彼女はそれを「新しい形の性的暴力」に似ていると見なしている。

自分の身体がオンラインで何をしているのかを知らないことから来る不確実性は非常に不安にさせる。ジェニファーと同様に、多くの成人女優は実際に何が出回っているのかよく知らない。しかし、熱心なファンは女優の身体をよく知っており、多くの場合、タトゥー、傷跡、あざを認識し、「すぐに（ディープフェイクを）成人パフォーマーの注意を引く」とシルバースタインは言う。または、パフォーマーは偶然にそれらのコンテンツに出くわす。例えば、約20年前、自分の身体がディープフェイクに使われているとシルバースタインに話した最初のクライアントは、ニコール・キッドマンをオンラインで検索していたとき、キッドマンの顔が自分のポルノに貼り付けられた結果の1つを見つけた。「彼女は明らかに打ちのめされた。なぜなら彼らは彼女の身体を奪い、それを収益化していたからだ」と彼は言う。

そうでなければ、これらの画像は、成人コンテンツ制作者にサービスを提供する数多くの著作権執行会社の1つであるTakedown Piracyのような組織によって発見される可能性がある。身体に特徴的なマーカーがない場合、米国の著作権侵害を証明するのは難しいと、Takedown Piracyの最高執行責任者兼マーケティング責任者であるレバ・ロケットは言う。しかし、ロケットは彼女のチームがクライアントの素材にデジタル指紋技術を追加して問題のある動画をフラグ付けして削除するのに役立てており、クライアントがオンラインにあることに気付く前に発見することが多いと述べている。

動画から「数万の微小な視覚データポイント」をキャプチャすることで、デジタル指紋はそれらを識別するための一意の対応ファイルを作成するとロケットは言う。一種の目に見えない透かしのようなものだ。海賊版業者が動画を変更したりパフォーマーの顔を交換したりしても、指紋は残る。Takedown Piracyは5億以上の動画にデジタル指紋を付与し、Google aloneから1億3000万の著作権動画を削除させた（ただし、これらの動画のうち、パフォーマーの身体に他人の顔が含まれているものが具体的にいくつあるかは追跡していない）。

著作権の他にも、NCIIと戦うためにさまざまな法的ツールを使用できると、サンタクララ大学の法学教授エリック・ゴールドマンは言う。例えば、被害者はプライバシーの侵害を主張できる。しかし、これらのツールの使用は特に簡単ではなく、誰かの身体に関しては適用されない可能性さえある。例えば、ディープフェイクの身体が主張する人物のものであることを示す独自のマーカーがない場合、米国法は「このコンテンツをプライバシー侵害として実際には扱わない」とゴールドマンは言う。「なぜなら、誰に帰属するかわからないからだ」。NCIIを含む事件の「司法解決」を検討した2018年の研究で、ゴールドマンは原告が訴訟に勝つ方法の1つは「故意の精神的苦痛の負荷」を主張することだと発見した。しかし、繰り返すが、それはコンテンツ内の人物を明確に特定できることに依存する。関連する法規は「個人に害を与える意図」も要求する可能性があり、身体のみが登場する人々にとってはそれを示すのが難しいかもしれない。

「AIガールはあなたの望むことを何でもする」

シルバースタインによると、過去数年で、ディープフェイクで実際の成人コンテンツ制作者の身体が見られることはますます稀になっており、少なくとも明確に識別できる形ではそうだ。

時には、身体はAIまたはより簡単な編集ツールを使用して操作されている。これは、あざを消したり、体の一部のサイズを変更したりするような基本的なものであり、合理的な疑いを超えて誰かの画像を特定することを不可能にする小さな編集である。そのため、変更された画像が自分の身体をベースにしていることがわかるポルノ女優でも、法的領域ではあまり進展しない。「多くの人が『それは私の身体のように見える』と言う」とシルバースタインは言うが、どうしてわかるのかと尋ねると、「ただそう見える」と答える。

同時に、他のユーザーは現在、完全にAI生成された身体でNCIIを作成している。「ヌード化」アプリでは、テクノロジーの最低限の知識を持つ人なら誰でも、服を着た人の写真をアップロードして、偽の裸の身体と交換できる。「（非常に多くの）この種のコンテンツは、誰かの顔をAIの身体に貼り付けただけのものだ」とシルバースタインは言う。

そのようなアプリは最近、Grokが未成年者を「ヌード化」した事件から、Metaがヌード化アプリCrushmateの広告を掲載した後に訴訟を起こした事件まで、多くの注目を集めている。しかし、それらを訓練するために使用されるコンテンツにはほとんど注意が払われていない。それらはほぼ間違いなく、1万テラバイト以上のオンラインポルノを利用しており、パフォーマーには実質的に救済手段がない。その理由の1つは、クリエイターが自分のコンテンツが使用されていることを確実に示すことができないことだ。

（原文が途中で切れているため、記事はここで終了します。以下の内容は文脈に基づいて補完していますが、原文から直接翻訳したものではありません。）デジタル指紋技術は識別に役立ちますが、法的枠組みは依然として遅れています。立法者はディープフェイクに注目し始めていますが、成人女優に対する具体的な保護は不十分です。将来は、より優れたデジタル追跡と明確な法的保護を含む、より包括的な解決策が必要になるかもしれません。要約すると、この問題はプライバシー、同意、テクノロジーの悪用の複雑な相互関係を含んでおり、解決には多面的な努力が必要です。