AIの粗悪コンテンツをフィルタリングさせろ、卑怯者たち

オンライン上でAI生成コンテンツを目にしないことはほぼ不可能ですが、そうである必要はありません。YouTube、Instagram、TikTokなどは昨年からコンテンツ認証の取り組みを強化し、多くのプラットフォームがAI生成の画像、動画、音楽と人間のクリエイターによる作品を区別するラベルを自動的に付けるようになりました。

ラベル付きコンテンツに偶然出くわすだけならそれも良いですが、もっと良いのはAIの粗悪コンテンツをフィルタリングできるようにすることです。現在のラベル付けの取り組みは、オンライン上のコンテンツの表示方法を意味のある形で変えていません。TikTokやYouTubeの動画によっては、説明文にAI開示が記載されていたり、クリップ自体に情報ラベルが重ねられていたりすることに気付くかもしれません。Metaも同様のアプローチで、AIメタデータやクリエイターの自発的な開示があるFacebookやInstagramの画像に「AI情報」ラベルを付けています。

しかし、そのようなラベルが付いたものを一切見たくない場合（生成AIの倫理的・環境的問題に加え、それが引き起こす頭の腐敗を考えると正当な理由です）、実際には非常に困難です。フィルターがあれば簡単に解決できます。「AI」チェックボックスを切り替えるだけでいいのです。

私はMeta、Google、TikTok、Spotifyに問い合わせました。AIラベルシステムで認証している様々なコンテンツをユーザーがフィルタリングできるようにする予定があるかどうかを尋ねました。TikTokとSpotifyは返答せず、Googleは共有するものはないと答え、Metaは引用可能なコメントを提供しませんでした。要するに、これらの企業はどれも「イエス」とは言いませんでした。

AIコンテンツフィルターを実際に導入しているオンラインプラットフォームの一つにDeviantArtがありますが、その実装は極めて示唆的です。まず、DeviantArtのフィードやストアページからはアクセスできず、隠されたように感じられます。代わりに、アカウントを作成し、ページ右上のユーザーアイコンにカーソルを合わせて「AIコンテンツ設定」メニューを見つける必要があります。そこでは、デフォルトの「AIを表示」設定か、「AIを抑制」オプション（AI生成または操作された画像の「表示を減らす」と主張）の2つしか選べません。

両方試しましたが、残念ながら顕著な違いは見られませんでした。私は今やAI生成の「デジタルイラスト」を見抜く目にかなり自信がありますが、自分の疑いだけに頼る必要はありませんでした。選んだほぼすべての疑わしい画像には、クリエイターによる開示が説明文にあり、それがロボットによって吐き出された作品であると確認できました。DeviantArtは、AIの来歴が明らかなメタデータを持つ画像にAIラベルを自動的に適用するのが非常に下手です。

Pinterestにも同様のシステムがあります。Pinterestアカウントにログインしたユーザーは、設定アイコンをクリックし、「おすすめを調整」を選択して「AIコンテンツ」タブをタップすると、アート、美容、ファッション、ホームデコレーションなどの特定のカテゴリを切り替えられます。Pinterestによると、これらのオプションを無効にすると、そのカテゴリの「AI修正コンテンツ」が減るはずですが、私の経験では完璧とは程遠いです。また、この設定はPinterestのフィードに組み込まれたフィルターよりも見つけにくいと言えます。AIフィルターを最大にしても、不自然に完璧な写真モデルや説明不能なイラストの誤りなど、AIの疑いがある画像を依然として多く目にしました。

これは、YouTubeやInstagramのような他のプラットフォームがAIコンテンツフィルターを導入した場合にほぼ確実に起こることです。うまく機能しないでしょう。しかし、それで構いません。なぜなら、それによって我々のAI皇帝たちが身にまとっている無効な「解決策」が露呈するからです。それらは書類上、規制当局や批判者をなだめるために存在しますが、AIの偽造と本物の写真や創作作品を区別するという実際の問題にはほとんど対処していません。

プラットフォームもそれが問題だと認識しています。Instagramの責任者アダム・モセリは12月、AI生成コンテンツの台頭により「信頼性が希少資源になりつつある」と述べました。そして今やGoogleのCEOサンダー・ピチャイは最近のDecoderインタビューで「AIの粗悪コンテンツが大量にある」と認め、オンラインユーザーは「それに適応する必要がある」と述べています。ならば、フィルターを与えてください。

C2PAやSynthIDのような出典ベースのシステムは、コンテンツ作成時にメタデータや不可視の透かしを埋め込むことで機能します。しかし、そうしないオープンソースのAIモデルは多数あり（特に悪意のある目的で設計されたもの）、メタデータも簡単に除去できるため、信頼性に欠けます。また、デジタルコンテンツのパターンを分析し、AIが使用された可能性を評価する検出ベースの手法もありますが、誤検出が発生する可能性があります。これらは現在、大規模に効果的に機能していません。

それにもかかわらず、OpenAIを含む企業は現在、これらのAIラベリングソリューションが、人々がディープフェイクやその他の誤解を招く偽物に騙されるのを防ぐのに役立つと謳っています。規制当局がそれらの無効性に気づけば、オンラインプラットフォームやAIプロバイダーは、現在の煙幕のように感じられるものではなく、実際に機能する解決策を見つける必要に迫られるかもしれません。

プラットフォームは、ラベリングの取り組みを推し進めすぎると、本物のコンテンツを誤ってフラグ付けするリスクがあると主張するでしょう。MetaとYouTubeは両方とも、そのようなツールの助けを借りずに制作されたとクリエイターが主張する画像や動画にAIラベルを適用して問題が起きました。それが現在のラベリングシステムにとってそれほど懸念事項なら、より良い解決策を見つけてください。何百万ものユーザーのエクスペリエンスを向上させることは、競争に打ち勝つための価値ある投資ではないでしょうか？

そして、ついでに言えば、なぜラベルのないAIの粗悪コンテンツを毎日報告できないのでしょうか？問題の規模を考えれば（例えばKapwingの昨年の研究では、新規ユーザーに表示されるYouTube動画の20％以上が低品質のAI生成粗悪コンテンツであることが判明）、各報告を効果的に審査するには多くの人間のモデレーターが必要でしょう。

そしておそらくそれが核心です。ビッグテックが、AIが人間を凌駕できるという主張のもと、労働者をAIに置き換えている時、人間を雇い戻してAIの問題を解決することで、慎重に構築した物語を覆す余裕があるでしょうか？人間には給料や福利厚生といった厄介な要求がある一方、自動モデレーションシステムは微妙な調査スキルに欠けています。

AI生成コンテンツにラベルを付ける代わりに、認証された人間のクリエイターにラベルを付け始めるという代替案もあります。それによって必ずしもそれらのクリエイターが投稿する合成コンテンツを特定できるわけではありませんが、低品質の粗悪コンテンツを量産する未認証のコンテンツファームからの投稿を減らすのに役立つかもしれません。これはInstagramのモセリがMetaの画像共有プラットフォームに提案した未来であり、Spotifyが認証アーティストですでに行っていることです。

もちろん、Meta、Spotify、GoogleはAI生成の画像や広告、音楽をホストしているだけでなく、それらを作成するツールも作っています。だからこそ、彼らはすべてのAIコンテンツが粗悪なわけではなく、品質の問題だと主張し、十分に説得力があれば、ユーザーが気付かずに喜んで餌を食べ続けることを期待しているのです。ユーザーがそれをフィルタリングできるようにすることは、これらのプラットフォームがAIから利益を得るために行ってきたすべての努力に反します。彼らはあなたに粗悪コンテンツ工場を受け入れて欲しいのです。

私は間違っていることを喜んで認めます。実際、私はオンラインプラットフォームに対し、AIラベリングの取り組みが無駄ではなかったことを証明してくれるよう懇願しています。しかし今のところ、彼らはすべてのカードを握っており、私たちは彼らのAIモデレーション努力が十分であることを願うしかありません。ですから、基本的な「AIなし」または「認証済み人間クリエイター」フィルターを提供し、これが実際にどの程度うまく機能するかを私たちに判断させてください。