TikTokは、AIによって生成された肖像を検出し、クリエイターが報告できるオプトインツールのテストを開始した。ソーシャルメディアコンサルタントのマット・ナバラ氏が最初に発見し、TikTok米国広報担当のザカリー・カイザー氏がThe Vergeに確認した。このツールは最初に一部の米国クリエイターを対象にテストされており、YouTubeも同様のツールを開発し、最近すべての成人ユーザーに提供している。
ツールを使用するには、クリエイターはまずJumioという企業を通じて本人確認を行う必要がある。リアルタイムの自撮りスキャンとIDチェックが求められるが、カイザー氏は「TikTokはID書類を保持せず、顔情報は似顔絵マッチングとクリエイターの似顔絵の不正使用の特定にのみ使用される」と述べている。
確認後、TikTokのシステムはクリエイターの肖像を使用した可能性のあるAI生成コンテンツをスキャンする。クリエイターは結果を確認し、不正な投稿やアカウントを報告できる。この取り組みは、ディープフェイクやAI悪用からクリエイターを保護することを目的としている。
AI生成コンテンツの増加に伴い、各プラットフォームは規制を強化している。TikTokの今回のテストは、AI倫理と著作権保護への業界の関心の高まりを反映している。