メタは独自のAI検出システムを開発したが、グーグルのものを利用するべきだった

今年3月、メタの監督委員会は同社に対し、「公約を果たし、独自のツールを活用して」プラットフォーム上での欺瞞的な生成AIコンテンツの拡散を抑制するよう求めた。メタは7月にContent Sealを導入することで応じた。これは、同社の新しいAIモデルによって生成された画像にフラグを付ける不可視の透かし技術である。しかし、これは基本的に、同社がMuse画像・動画生成ツールを発表した際の脚注に過ぎなかった。

AIラベル付けシステムを精査することに多くの時間を費やしている者として、Content Sealに自信は持てない。C2PAコンテンツクレデンシャルやグーグルのSynthIDのような、より確立されたソリューションがすでに存在しており、メタは独自のシステムをかなり遅れて立ち上げる代わりに、これらを利用することができた。メタがなぜ独自システムを立ち上げたのかを調べた結果、メタがこれを十分に検討したとは思えない。

メタの説明によると、Content SealはSynthIDと同様に機能する。人間の目には見えない透かしは、AI生成画像に埋め込まれた「隠れた来歴信号」を提供し、検出ツールによってスキャンされ、フラグが立てられる。これにより、オンラインユーザーはディープフェイクと本物のコンテンツを区別できる。SynthIDと同様に、メタはContent Sealの透かしが画像を「トリミング、圧縮、リサイズ、スクリーンショット」してもそのまま残り、検出可能であると述べている。

では、Content Sealが機能的に同じことをするのであれば、なぜSynthIDを採用しないのか？メタは、グーグルとともに独立したContent Credentials標準を推進するC2PA（コンテンツ来歴・信頼性連合）の運営委員会メンバーとして活動しており、他社と協力してAI検出の問題に取り組む意欲を示している。また、SynthIDはすでにOpenAIにも採用されており、グーグルが透明性向上のために競合AIプロバイダーに技術を開放する意思があることは明らかだ。

これらの類似点にもかかわらず、Content Sealには現在の状態でいくつかの制限がある。現時点では、ユーザーはメタがテストしている専用のウェブツールを通じてのみContent Sealの透かしを検出できる。つまり、メタはグーグルがGeminiに組み込んでいるように、検出機能をMeta AIチャットボットに組み込んでいない。ただし、これは開発中である可能性がある。メタの広報担当者Faith Eischen氏はThe Vergeに対し、同社は「人々がAI生成コンテンツに遭遇する場所により近いところに検出機能を持ち込む方法を模索している」と語った。AI検出が最も必要とされ、それがしばらく前から求められている場所であることを考えると、なぜ発売時点で利用できないのだろうか？

透かし自体も、Meta AIアプリとMeta.aiウェブサイトでMuseによって生成された画像にのみ適用されており、オンラインユーザーはメタの旧AIモデルで生成されたコンテンツの検出に使用できない。生成動画のサポートも提供されていないが、メタは「間もなく」対応すると述べている。

メタは検出ツールを通じてContent Sealの透かしをチェックできる回数に1日あたりの制限を設けている。Eischen氏は、このレート制限は「通常の使用」をサポートし、検出システムの悪用を防ぐためのものだと述べた。メタはそのような悪用がどのようなものか明らかにしなかった（おそらく、透かし入りコンテンツが検出されるのを避けるためにシステムをクラックしようとする試み）。しかし、グーグルやOpenAIの検出ツールにも同様のレート制限がある。C2PAは、ユーザーがコンテンツをチェックできる回数に上限を設けていない唯一のシステムである。検出に制限を設けることは、規模の拡大に伴うAI透明性の向上に逆行するように思われる。そのため、メタのシステムがSynthIDよりも優れた点を提供する機会を逃しているように感じられる。

FacebookやInstagramのようなメタ自身のプラットフォームでは、AIラベルが適用されているが、Eischen氏は、特定されていないメタデータが「Content Seal透かしと並んで」ユーザーがAI生成コンテンツを識別するのに役立てられていると述べた。メタがTikTokやLinkedInのような他のオンラインプラットフォームに対して、AIコンテンツをスキャンしてラベル付けする方法を指示しているかどうかを尋ねたところ、Eischen氏は、同社は「業界の仲間と協力して、ユーザーに可能な限り最高の体験を提供することを決意している」と述べた。

これは、この標準に対するより広範なサポートがまだ進行中であり、Museで生成された画像がメタのプラットフォーム以外で効果的にラベル付けされるのを妨げる可能性があることを示唆している。MetaのMuseモデルで作成したテスト画像をGeminiと公式のC2PA検出ポータルに入力したところ、どちらのツールもAI生成であることを確認できなかった。また、Content SealがSynthIDやContent Credentialsと同時に画像や動画ファイルに適用され、それらの他の標準に干渉しないかどうかという問題もある。メタはこれについて公式に何の説明も提供しなかった。

「他の企業と同様に、当社は独自の技術仕様と製品に合わせてContent Sealを構築しました。エコシステム全体でこの問題に対処するには、複数のアプローチが連携して機能する必要があり、当社はその取り組みに貢献できることを嬉しく思います」とEischen氏は述べた。「Content Sealについて、近日中にさらに詳しい情報を共有する予定です。」

Content Sealがメタの最新AIモデルを使用して生成された画像しか検出できないことを考えると、同社はこれまで何をしてきたのだろうかと疑問に思わざるを得ない。メタは2023年からAI画像生成ツールを提供しており、すでに独自のシステムでは検出できない多くの偽造コンテンツを生み出している。また、2023年にはInstagramとFacebookにAIタグを導入したが、実際の写真を誤って「AI作成」とラベル付けし、多くの写真家を怒らせた。

3年が経っても、メタは自らをAIコンテンツの工場であり、それを識別するための解決策であると位置づける方法、特に自社のプラットフォーム上での位置づけに確信を持てていない。メタの上級管理職でさえ、次に何をすべきか困惑しているようだ。

Lenny Rachitskyのポッドキャストのインタビューで、Instagram責任者のAdam Mosseri氏は当初、AI生成コンテンツを嫌う人々がそれをソーシャルフィードから排除できるようにするという考えを受け入れた。これは、信頼できるAIラベル付けシステムを必要とするフィルタリング機能のように聞こえる。彼はさらに、AIが提供できないものとして、真正性自体がより望ましいものになると示唆した。

「合成コンテンツがあふれる世界では、人々は創造性と真正性、そして人とのつながりを、より求めるようになると実際に思います」とMosseri氏は述べた。

しかし、同じインタビューの中で、Mosseri氏は「AIコンテンツをフィルタリングすべきではないと思います」と述べる一方、「コンテンツがAIコンテンツかどうかをユーザーに知らせるべきです」と断言した。Mosseri氏はまた、「本物のメディアを指紋認証する方が、偽のメディアを指紋認証するよりも現実的かもしれない」という以前に表明した意見を繰り返した。これは、メタが実行可能なAIラベル付けシステムを開発する能力に自信を持っていないように聞こえる。同社は、ソーシャルプラットフォームを「シュリンプジーザス」やその他の生成的なネットスラッグの工場に変えてから、十分な時間があったにもかかわらず、Content Sealのリリースは依然として急ぎ足で行われたように感じられる。

これは、類似した確立されたSynthIDシステムに比べて消費者にとって独自の利点を提供するものではなく、代わりに人々がAIコンテンツを検証するために飛び越えなければならない別のハードルを作り出している。おそらくメタは、OpenAIのようにグーグルの透かし標準を採用すべきだったのだ。もしそうしていれば、FacebookやInstagramのユーザーはより良い状態になっていたかもしれない。Eischen氏は、メタは長年にわたってオープンソースの透かし研究に貢献してきたため、この技術を一夜で作り上げたわけではないと私に語ったが、それに見合った消費者向けのより良いエクスペリエンスを期待したい。

もしメタが独自のソリューションにこだわりたいのであれば、AI透明性に真剣に取り組んでいることを証明するには、中途半端なSynthIDのクローン以上のものが必要だ。少なくとも、より信頼性の高いものが求められる。ロイター通信は、Content Sealがテストしたトリミング後のMuse生成画像の半数以上を検出できなかったことをすでに発見している。