YouTube、AIディープフェイク検出ツールを全成人ユーザーに拡大

YouTubeは、AIによる肖像検出プログラムを18歳以上の全ユーザーに拡大しました。これにより、ほぼ誰でもプラットフォーム上で自分の顔が使われたディープフェイクを見つけてもらえるようになります。この機能はもともとコンテンツクリエイター向けにテストされ、その後政府関係者、政治家、ジャーナリスト、そしてエンターテインメント業界へと段階的に拡大されてきました。今回の一般成人ユーザーへの拡大は、個人が自分の肖像が使用されたコンテンツを常時監視できるようにするという点で大きな変化です。

この肖像検出機能は、自撮り風の顔写真をアップロードし、その画像を使ってYouTube上で似た顔を検索します。一致する動画が見つかると、YouTubeがユーザーに通知し、ユーザーはその動画の削除をリクエストできます。YouTubeはこれまで削除リクエストの数は「非常に少ない」と述べていますが、この拡大により今後増加する可能性があります。削除リクエストはYouTubeのプライバシーポリシーに基づいて評価され、コンテンツが現実的か、AI生成と表示されているか、個人が一意に識別可能かなどの基準が考慮されます。パロディや風刺などの例外があり、このツールは顔の肖像のみを対象とし、声などの他の識別特徴はカバーしません。ユーザーはいつでもプログラムから脱退し、データを削除することができます。

この発表はYouTubeのクリエイターフォーラムで行われましたが、広報担当のJack Malon氏は、対象となる「クリエイター」の定義に特別な要件はないと述べています。「今回の拡大により、10年間YouTubeにアップロードしてきたクリエイターも、始めたばかりのクリエイターも、同じレベルの保護を受けられることを明確にしています」とMalon氏は電子メールで述べています。

ディープフェイクコンテンツは多くの場合、有名人、政治家、その他の公人を中心に作成されますが、説得力のあるデジタルレプリカを作成する能力は一般市民にとっても深刻な懸念事項です。特に10代の若者が同級生によってディープフェイクされる事例が報告されており、今年初めには3人の10代がxAIを提訴し、同社のGrokチャットボットが彼らの児童性的虐待素材（CSAM）を生成したと主張しています。このような背景から、YouTubeのこの措置は、一般ユーザーが自分のデジタル肖像を保護するための重要なツールとなる可能性があります。ただし、削除基準の透明性や、音声など他の識別特徴への対応が今後の課題として残されています。