他人があなたのAI画像を生成する前に、このMetaの設定をオフにしよう

すべてのコンシューマーアプリには、通知やダークモードなどの設定を決められるメニューがあります。Metaは最近、公開Instagramアカウントから、あなたのハンドル名をプロンプトに入力するだけで、誰でもあなたのAI画像を生成できるようにしました。

7月7日、MetaはAI画像生成モデルMuse Imageをリリースしました。これは公開Instagramアカウントと統合されています。これにより、誰でもプロンプトであなたのアカウントをタグ付けするだけで、あなたの肖像を使用した画像をMeta AIで生成できます。Metaのポリシーによれば、誰かがこれを行っても通知はされず、自分の肖像がいつどのように使用されたかを知るのは困難です。

Metaは、Muse Imageがプロンプトで公開Instagramアカウントを参照できるようにすることで、AI画像生成をよりパーソナルなものにすることを目的としていると述べています。自分の画像を作成するときは楽しいかもしれませんが、他の誰かがあなたのアカウントで同じことができるとなると、そうでもありません。

Metaはオプトアウトを許可していますが、設定を見つけるのはそれ自体が冒険です。Instagramで、プロフィール > メニュー > 共有と再利用を開きます。「Instagram上およびMetaのAI機能で他の人があなたのコンテンツを再利用することを許可」の下で、投稿とリールのトグルをオフにします。アプリのバージョンによって文言が異なる場合があり、この機能はまだ展開中で、米国から始まっているため、設定が表示されない場合もあります。

Instagramを開いたときに、Metaが「これをオフにしたくなければオフにしてください」という大きな太字のメッセージを最初に表示してくれることを期待するかもしれませんが、そうはいきません。また、オプトアウトする前に誰かがあなたの画像を作成した場合、会社が遡及的に削除してくれることも期待するでしょうが、それもありません。

オプトアウトは将来の画像生成を防ぐだけです。設定をオフにする前に誰かが作成したAI画像は、引き続き流通したままです。

包括的な保護に最も近い方法は、アカウントを非公開にすることです。

リスクは何か？

ここにはプライバシーとセキュリティへの影響があります。現在、誰でもあなたの知らないうちに公開Instagramプロファイルに基づいてAI画像を生成でき、Metaはそれが発生したときに通知しません。公開Instagramの写真は、以前から攻撃者によって収集され、本人確認詐欺のためのディープフェイク作成に利用されていました。公開プロファイルに基づいてAI画像を生成する公式の方法を提供することは、なりすまし、詐欺、その他の悪用に使用される可能性のある合成画像を作成する障壁を低くします。

サイバー犯罪者はすでに生成AIと自動化ツールを組み合わせて、フィッシングや詐欺を大規模に行っています。Muse Imageは、公開された身元に基づいて説得力のある画像を生成することをさらに容易にします。

MetaのAIは他のセキュリティ問題も引き起こしています。今年初め、研究者らはMetaのAIサポートチャットボットに「混乱した代理」脆弱性を発見しました。これにより、誰と話しているかを適切に確認せずに、メールアドレスの変更やパスワードのリセットなどのアカウント変更が可能になりました。多要素認証（MFA）を有効にすることで、この問題は軽減されたようです。

Metaはまた、欧州ユーザーデータをAIのトレーニングに使用する際に、オプトアウト方式を採用しています。同社はGDPRの「正当な利益」という法的根拠に依存して、AI目的で欧州ユーザーのデータを処理していますが、プライバシー団体NOYBがこの姿勢に異議を唱えています。

自分を守るために

Instagramアカウントが公開の場合は、プロフィール > メニューを開きます。「他の人があなたとやり取りする方法」の下で、共有と再利用をタップし、「Instagram上およびMetaのAI機能で他の人があなたのコンテンツを再利用することを許可」の下にある投稿とリールの再利用設定をオフにします。これらの再利用設定をオフにしても、将来のAI画像生成と再利用を防ぐだけです。既存のAI生成コンテンツやリミックスは削除されません。

すべてのMetaアカウントでMFAを有効にしてください。パスワードが漏洩した場合にアカウントを保護する最も簡単な方法の1つです。

Metaが現在提供する最も強力な保護を望むなら、Instagramアカウントを非公開に切り替えてください。これは大雑把な解決策ですが、見知らぬ人があなたの公開プロフィールを素材として使用するのを防ぎます。

Meta自身の監督委員会は、同社にはより強力な検出ツールとAI生成コンテンツのより良いラベル付けが必要だとすでに述べています。Meta自身の統治機関が防御が不十分だと言っている以上、消費者は注意を払うべきです。

詐欺師はあなたをハッキングする必要はありません。彼らはあなたが一度クリックするだけで十分です。

Malwarebytes Identity Theft Protectionは、問題が発生する前に不審なアクティビティをキャッチします。