サンフランシスコ、AppleとGoogleにAI「ヌーディファイ」アプリの削除を要求
サンフランシスコ市はAppleとGoogleに対し、AIを使って写真内の人物の服をデジタル的に除去する「ヌーディファイ」アプリをアプリストアから削除するよう命じた。カリフォルニア州法は非同意のディープフェイクポルノの作成を「故意に促進」する行為を犯罪とし、2025年には被害者が第三者促進者に対して民事訴訟を起こせる法律も成立している。
カリフォルニア州サンフランシスコ市は、AppleとGoogleに対し、アプリストアから数十の「ヌーディファイ」アプリを削除するよう正式に要求しました。これらのアプリは人工知能技術を利用して、写真内の人物の衣服をデジタル的に取り除くことができるものです。サンフランシスコ市検察局は声明で、これらのアプリがカリフォルニア州法に明らかに違反していると指摘しました。州法では、非同意のディープフェイクポルノの作成を「故意に促進」または「無謀に幇助」する行為が犯罪とされています。さらに2025年には、被害者が第三者促進者に対して民事訴訟を起こすことを認める法律が成立し、より広範な法的救済手段が提供されています。市は、これらの明確な規制にもかかわらず、両テクノロジー企業がアプリをホストし続け、広告やアプリ内課金を通じて収益を得ていると主張しています。サンフランシスコ市はAppleとGoogleに対し、指定された期間内に対応するよう求めており、従わない場合は法的措置もあり得るとしています。この動きは、テクノロジープラットフォームにおけるコンテンツモデレーションの責任についての広範な議論を呼び起こしています。