AIの獲物：なぜ監視機関は親に子供を「脱衣」アプリから守るよう警告するのか
画像ツールの高度化に伴い、ネット上の犯罪者が子供の画像を悪用して過激なポルノを作成しています。英国当局は、AI脱衣アプリが無邪気な自撮り写真を性的コンテンツに変換する危険性を警告。Report Removeサービスは、同意なく拡散された露骨な画像を子供が秘密裏に報告し削除する手助けをします。
AI画像処理ツールの進歩に伴い、ネット上の犯罪者が子供の写真を悪用して過激なポルノを作成する事例が増えています。英国当局は、親に対して子供の写真をオンラインで共有するリスクについて警告を発しています。これらの「脱衣」アプリは、AIを活用して無邪気な自撮り写真を性的なコンテンツに変換することができ、技術的なハードルは非常に低くなっています。
Report Removeサービスによると、実際に2枚の典型的な10代の自撮り写真——鏡を見て、服を着た状態——がネット犯罪者に取得され、AI画像ツールを通じて過激なポルノ動画のベースとして使用された事例が報告されています。このサービスでは、同意なく自身の露骨な画像が拡散された場合、未成年者が秘密裏に報告し、ソーシャルメディア上でブロックまたは削除を依頼することができます。
AI技術の進歩と脱衣モデル・アプリの広範な入手可能性により、一部の未成年者は犯罪者と直接接触することなく被害者となる可能性があります。規制当局は、親が子供の写真の投稿に慎重になるよう強調しており、一見無害な画像でも悪用されてディープフェイクポルノの作成に使われる可能性があると警告しています。専門家は、この新たなAI犯罪の傾向を抑制するため、法整備とプラットフォームの責任強化を求めています。