Google、ディープフェイク検出をより身近に：Chromeと検索でSynthIDとC2PA認証を統合

Googleは、ディープフェイクを識別しやすくするために、AI検出機能をChromeと検索に拡大しています。本日Google I/Oで発表されたアップデートでは、Google DeepMindが開発した不可視の透かし技術「SynthID」だけでなく、C2PAコンテンツクレデンシャルが埋め込まれたコンテンツも対象となり、両方のシステムをユーザーがより簡単に利用できるようになり、オンラインで見るコンテンツがどのように作成または改ざんされたかを学べるようになります。

まず、Googleは、SynthIDマーカー（GoogleのAIツールで作成されたことを示す）を持つ画像の検証が、本日からGoogle Lens、AIモード、Circle to Searchなどの検索機能に導入されると述べています。これらのツールでオンライン画像をアップロードまたは選択すると、画像の出所について詳しく知ることができ、Chromeのサポートは「今後数ヶ月以内」に展開される予定です。Googleは、Chrome拡張もGeminiを搭載し、ブラウザページ上で画像を選択または丸で囲むことで動作すると述べています。画像は右側のパネルに表示され、「これはAIで作られたものですか？」や「これはAI生成ですか？」と質問できます。

SynthIDによる画像、動画、音声コンテンツの検証は、すでにGeminiアプリで利用可能です。Chromeと検索への拡大は現時点では画像のみですが、Googleは将来的に他のコンテンツタイプにも拡大する計画です。

このアップデートの一環として、Googleの検証インターフェースは、独自のSynthIDマーカーに加えて、コンテンツがC2PAコンテンツクレデンシャルを含んでいるかもチェックします。つまり、ユーザーはGeminiと専用のC2PAチェッカーポータルを行き来する代わりに、単一のインターフェースで両方の来歴システムを確認できるようになり、ディープフェイク検出のプロセスがより効率的になります。C2PA検証は本日Geminiアプリで展開され、検索とChromeのサポートは今後数ヶ月以内に続きます。

これはGoogleのプラットフォーム全体でC2PAを拡大する取り組みの一つに過ぎません。Pixel 10スマートフォンで撮影された画像にはすでにこのメタデータが埋め込まれており、今後数週間でPixel 8、9、10スマートフォンでは動画ファイルにも含まれるようになります。Googleはまた、MetaがInstagramでカメラ撮影メディアにC2PAを使用したラベル付けを開始すると述べていますが、Metaはこの機能に関する詳細な情報提供の要請に応じていません。一方、OpenAI、Kakao、ElevenLabsが生成するAIコンテンツにもGoogleのSynthID透かしのサポートが拡大されますが、Googleはどのモデルやコンテンツに適用されるかは明らかにしていません。

これらのアップデートを締めくくるのは、Google CloudのGeminiエンタープライズエージェントプラットフォーム向けの新しいAIコンテンツ検出APIです。これは、組織がAI生成メディアを識別しやすくすることを目的としています。Googleは、この機能は未指定の信頼できるパートナーグループとともに開始され、APIは彼らのフィードバックに基づいて微調整されると述べています。Googleは発表ブログで、「これにより、企業はGoogleと他の人気モデルの両方で作成されたAIコンテンツを強力に識別できるようになり、自社プラットフォーム全体でメディアを評価・管理する方法を決定するのに役立ちます。フィードの分類や保険詐欺の防止といったバックエンド運用から、ファクトチェックや合成メディアのラベル付けといったユーザー向けコンテンツまで対応します」と述べています。

これらの拡大は、企業と一般のWebユーザーの両方にとってAI検出をより身近なものにするはずです。特にChrome拡張は、世界中で最も使用されているブラウザであるため注目に値します。多くのオンラインプラットフォームはAIコンテンツをネイティブにラベル付けしていないため、画像を保存して専用のC2PAやSynthID検出インターフェースに手動でアップロードするよりも簡単な回避策を提供します。

ただし、Google DeepMindのVPであるPushmeet Kohli氏はThe Vergeに対し、GoogleはSynthID専用の検証ポータルを立ち上げる計画を破棄したと語っています。少なくともGoogle自身のシステムについては、SynthIDマーカーは今後Geminiを搭載したプラットフォームでのみ識別可能となり、Googleモデルによって生成されたAIコンテンツを識別するために、ユーザーはGoogle自身のAIツールを使わざるを得なくなる可能性があります。これは、生成AIシステムとのやり取りを完全に避けたい人々には歓迎されないかもしれません。