Meta、Instagramユーザーをタグ付けしてAI画像を生成する機能を削除

ソーシャルメディア大手Metaは、新たなAI画像生成ツール「Muse Image」を発表しましたが、その中に含まれていた、他のユーザーのInstagramアカウントをタグ付けしてその公開写真からAI画像を生成できる機能が大きな批判を浴び、同社は機能を無効化しました。

Muse Imageは火曜日にリリースされ、Instagram StoriesやWhatsAppに30以上の新しいエフェクトを追加しました。Metaはこれを「Meta Superintelligence Lab初のAI画像生成モデル」と称し、将来的にはMuse Videoも計画していると述べています。しかし、このツールは革新性よりもプライバシー問題で注目を集めることになりました。

初期設定では、米国やカナダなどで公開アカウントを持つユーザーのMeta AI権限が自動的にオンになっており、他人がその写真をAI画像生成に使用できる状態でした。ユーザーは手動でこれらの権限をオフにしない限り、自分の写真が誕生日カードやグループ旅行のミームなどのAI生成に使われる可能性がありました。プライバシー専門家のKatrina German氏は、「人々は自分の画像が許可なく使用されることを好まない」と述べ、特に著名人や幼い子どもの親にとって懸念事項だと指摘しています。

Metaは金曜日の夜の声明で、「この機能が期待に応えられなかったというフィードバックを聞き、削除した」と述べました。しかし、この機能が将来的に復活するかどうかについては明らかにしていません。現時点では、ユーザーはモバイル端末からInstagramの「設定とアクティビティ」に進み、「共有と再利用」セクションで「他の人があなたのコンテンツをInstagramおよびMetaのAI機能で再利用することを許可する」および「他の人があなたのオリジナル音声をMeta AIで作成および再利用することを許可する」のトグルをオフにすることで、写真の使用を防ぐことができます。また、アカウントを非公開にすることも選択肢の一つです。

Muse Imageは現在、米国のInstagram StoriesとWhatsAppでのみ利用可能ですが、カナダのユーザーはMeta AIのウェブサイトで直接ツールをテストできます。Metaは、ポリシー違反のコンテンツ生成を防ぐための技術的な保護措置を講じていると述べており、不適切な画像に遭遇した場合は長押しして「良くない」を選択し報告できるとしています。

他のプラットフォームでも同様の問題が発生しています。X（旧Twitter）のAIチャットボットGrokは、同意なくユーザーの写真を操作できるとしてカナダのプライバシー委員会から調査を受け、適切な保護措置がないと判断されました。OpenAIも、ディープフェイクや無断使用の懸念から、今年初めに画像生成ツールSoraを閉鎖しています。

今回の一件は、AI技術の悪用とユーザープライバシー保護の重要性を改めて浮き彫りにしました。Metaは機能を削除しましたが、ユーザーはデフォルト設定に注意し、必要に応じて積極的に権限を管理する必要があります。