GoogleのGemini大型言語モデルに、物議を醸す新機能が追加されようとしている。ユーザーがAIで作成した画像、動画、音楽の可視ウォーターマークを表示しないよう選択できるのだ。この発表は、Gemini公式X（旧Twitter）アカウントによって金曜日（いわゆる「ニュースを埋め込む時間帯」）になされた。つまり、AI生成コンテンツの識別がこれまで以上に難しくなり、ソーシャルメディア上で人工的なコンテンツが判別しにくくなる可能性がある。
これまでGoogleは、AI生成物に可視の透かしを入れることで利用者の識別を促してきた。しかし今回のオプションは、ユーザー自身がその表示を選べるようにするものだ。Googleは依然として不可視のメタデータや内部的な識別子を残すかもしれないが、一般の利用者が目にするコンテンツには明確な印がなくなるかもしれない。
この変更について、批判的な見方では「AIスラップ（粗製濫造されたAI生成物）の門戸を開く」と受け止められている。本物と見分けがつかない画像や動画、音声を簡単に生成・拡散できるようになり、偽情報やディープフェイクの被害が拡大するリスクが高まる。Google側には商業的な理由があるのかもしれないが、規制や信頼という観点から見れば、この判断はさらに状況を複雑にしている。