AIラベリングシステムの正念場

ディープフェイクやAI生成コンテンツを簡単に見分けられるように設計されたシステムが実際に機能するかどうか、その正念場を迎えようとしている。SynthIDとC2PAコンテンツクレデンシャルは、画像、動画、音声ファイルにその出自に関する情報を不可視でタグ付けする2つの異なる技術である。現在、これらの技術は過去最大の拡大を迎えており、ラベル付けされていないAI偽造がオンラインで人々を欺く流れを変える機会を得ている。

昨日のI/Oカンファレンスで、Googleは画像にSynthIDマーカー（Google AIモデルが生成したコンテンツに適用される不可視の透かしシステム）が付いているかどうかを検証する機能をChromeと検索に導入すると発表した。これは重要である。なぜならChromeはウェブブラウザと検索エンジンで世界市場シェアを圧倒的に支配しており、AI検証ツールがより多くの人々の目に触れることになるからだ。また、チェックプロセスも簡素化される。現在、画像のSynthIDマーカーを確認したい場合、ユーザーはGeminiアプリに画像をアップロードする必要がある。

さらに、Googleの検証インターフェースはファイルがC2PA情報（コンテンツ作成時に埋め込まれる来歴メタデータで、どのように作成または操作されたか、AIツールが使用されたかどうかを示す）を含んでいるかどうかもチェックするようになる。このC2PA対応により、ユーザーは単一のインターフェースから不審な画像をチェックできるようになる。以前は、ファイルに一方のタイプのラベルしかない場合やどちらもない場合に、Geminiアプリと専用のC2PA検証ポータルを行き来する必要があった。

これは私たちが待ち望んでいた協力的な取り組みである。両システムの動作は異なるが、Googleとコンテンツ認証イニシアチブ（C2PA標準を推進する団体）は、成功のために必要な条件について同様の主張をしている。それはすべての関係者が参加することだ。つまり、より多くのAIモデルがこのデータを埋め込み、AI偽造が最も頻繁に共有されるオンラインプラットフォームがその情報を明確に表示する必要がある。後者については、Webブラウザに検証ツールを組み込むことで、AIメタデータをチェックまたは表示しないウェブサイトに対する回避策として機能する可能性がある。

OpenAIもこの拡大に参加し、昨日、ChatGPT、Codex、OpenAI APIで生成された画像にSynthIDを埋め込むと発表した。同社は既に生成コンテンツにC2PAメタデータを含めているが、他のプラットフォームに投稿するとしばしば除去されることがわかっている。OpenAI自身も、C2PAの指導メンバーでありながら、C2PAに対する期待を抑えようとしてきた。以下は、昨日SynthIDを含むように更新される前のOpenAIのC2PAヘルプページの記述である。

> 「C2PAのようなメタデータは、来歴の問題に対処するための特効薬ではありません。偶然または意図的に簡単に削除される可能性があります。例えば、現在のほとんどのソーシャルメディアプラットフォームはアップロードされた画像からメタデータを削除し、スクリーンショットを取るなどの操作でも削除されます。したがって、このメタデータがない画像がChatGPTやAPIで生成されたものであるかどうかは断言できません。」

コンテンツ認証技術の最高峰とされるものにしては、非常に脆弱に聞こえる。GoogleもC2PAを業界標準と位置づけ、AIの透明性とラベリング要件を満たす解決策として世界各国の政府に売り込んでいる。しかし、AI、ハードウェア、ソフトウェアプロバイダーによる採用が進んでいるにもかかわらず、実際にオンライン上のAI偽造を検証するために成功裡に使用されているのを私はほとんど見たことがない。それに比べてSynthIDは、簡単には除去できないため、より堅牢に思える。そのリーチはC2PAに比べて限られているが、ファクトチェック機関やメディア機関がオンラインのディープフェイクを暴く際にその使用を引用した事例をいくつか思い出せる。

C2PAとSynthIDは協力して、より広範なセーフティネットを張ることができる。この業界は検証標準の戦争から利益を得ることはないが、Googleには自社のシステムがより信頼できることを証明し、C2PAが自らのために確保してきた注目を奪う明らかなチャンスがある。そうならないためには、C2PAが実際に、私たちがオンラインで見るコンテンツの出所を明らかにするために使用できることを証明する必要がある。

そのような機会はすでに訪れている。Googleは昨日、MetaがInstagramでカメラで撮影された画像にC2PAメタデータを使用してタグ付けを開始すると発表した。Metaはこれがどのようなものになるのか、どのカメラがサポートされるのかについての質問に回答していないが、電子メールの「iPhoneから送信」のような、「Pixel 10で撮影」といったラベルが付くのではないかと推測する。これにより、Instagramユーザーは「本物」の写真と説得力のあるAI偽造を区別しやすくなる。これはInstagramの責任者アダム・モセリが予測した未来、つまり「見たものがデフォルトで本物であるという前提から離れる」必要性に沿ったものだ。

ただし、ラベリングが機能すればの話だが。Instagramは既に画像のC2PA情報をチェックしており、以前はAI生成コンテンツにラベルを付けようとした際に、写真家自身が撮影した画像にAIラベルを適用して問題になった。

また、私はGoogleのこの協力を手放しで称賛するつもりはない。同社はAIの透明性とデジタルディープフェイクとの戦いの重要性を説く一方で、人々を誤解させるために使用される技術そのものを開発している。自らを供給者であり解決策であると位置づけている。もしSynthIDがディープフェイクとの戦いで顕著な違いをもたらすなら、それを許容できるが、問題の規模を考えるとあまり期待していない。

堅牢であろうとなかろうと、SynthIDとC2PAは、そもそも透かしが追加されている場合にのみそれを検出できる。そして、真に悪質なディープフェイクコンテンツを生成するために使用されるオープンソースモデルの多くが、これらのシステムを採用するとは思えない。来歴は決して完璧な解決策ではなかったが、今、GoogleとC2PAはそれが完全な時間の無駄ではないことを証明する機会を得ている。