AI時代に「真実キャンペーン」が必要な理由

生成AIのハネムーン期が終わり、各州の司法長官がチャットボット開発者に対する訴訟を相次いで提起する中、私たちはAI時代の「真実キャンペーン」に資金を提供するかつてない機会を手にしている。元米連邦取引委員会（FTC）顧問のGaurav Laroia氏とCharlotte Slaiman氏が、米国科学者連盟で発表した覚書でこの主張を展開している。

両氏はFTC在任中、ビッグテックが罰金を「ビジネスコスト」として軽視する時代の終焉に尽力したが、強力な差止命令や市場改革だけでは不十分であることを痛感した。真に公衆を守るには、法規制と大規模かつ積極的な公教育を組み合わせる必要がある。

現在のデジタル被害の規模は、環境災害に匹敵する。ピュー研究所の調査によると、アメリカ人の半数はAIに期待よりも懸念を抱いており、ほとんどの人が言葉や画像が機械によるものか見分けられる自信がない。Z世代の不安は特に強く、AIの教育や職場での有用性に対する楽観度は急落している。

ソーシャルメディア時代がアルゴリズムで注意と怒りを乗っ取ったのに対し、生成AIは人間のコミュニケーションを模倣し、フォトリアルな画像を作り出すことで、私たちの信頼、想像力、共感を乗っ取る。チャットボットを擬人化するにつれ、依存と孤独が増し、批判的思考が急激に低下している。機械が自然言語を使うとき、私たちの脳はそれに共感と認知を割り当てるよう配線されている。この親密さの錯覚が危険な脆弱性を生み出す。

消費者は今まさに差し迫った脅威に直面している。音声クローニング技術を使った巧妙な詐欺の急増、いじめや嫌がらせに使われるディープフェイクの拡散。欠陥のある顔認識システムは誤認逮捕を引き起こし、特に疎外されたコミュニティに影響を与えている。合成メディアの抑制のない洪水は、共有現実に対する公衆の信頼を損なう。不透明な採用アルゴリズムから職場監視まで、これらの害は混乱と低いデジタルリテラシーの環境で栄える。

公衆は明確で偏りのないガイダンスを切望しているが、現在の情報発信のバランスはテクノロジー企業側に偏っている。これらの企業にはユーザーに懐疑心を持つよう促す金銭的インセンティブがほとんどない。チャットボットは「オラクル」「リサーチアシスタント」「デジタルフレンド」として販売されてきた。公衆は現実を知る必要がある：これらのツールは予測テキストマシンであり、幻覚を起こすことがあり、事実確認が得意ではなく、ユーザーが共有する親密な情報が将来のモデルの訓練に使われる可能性がある。

具体的な解決策が必要だ。画像や音声の真偽を確認する独立した研究やツール、子どもをアルゴリズム操作から守るためのK-12メディア懐疑教育、監視目的でAIが使われている場合の権利を理解するための労働者教育、州のテクノロジー被害に関する検察・捜査機関への資金増強など。しかし、専用の資金がなければ、誰がこれらのリソースを構築・維持できるだろうか？

現在、私たちは企業とのメッセージングにおいて非対称な戦いを強いられている。企業はAIに関する自分たちの物語を売り込むために数十億のマーケティング予算を持っている。公共の利益のための取り組みがわずかな予算で正確な情報を提供することはできない。私たちは大規模で十分なリソースを備えた真実への投資を必要としている。

過去の教訓を生かすべきだ。2019年のFTC対Facebookの50億ドル和解は歴史的な勝利と称されたが、委員らはその罰金がデータ収集ビジネスモデルを抑止する可能性は低いと警告した。さらに法律により、FTCはその資金を消費者教育に充てることができなかった。しかし、その一部でも消費者データプライバシーやソーシャルメディアの感情的操作について教育するために使えていたらどうだっただろうか？

幸い、新たな州レベルの訴訟が、罰金捨て型の執行モデルから脱却する機会を提供している。3月、カリフォルニア州の陪審は、MetaとYouTubeがプラットフォームを過失設計し、深刻な精神的健康危機を引き起こしたとして、20歳の原告に600万ドルの賠償を命じた。同月、ニューメキシコ州の陪審は、Metaが製品の安全性について親を誤解させ、児童搾取を助長したとして、3億7500万ドルの罰金を科した。

これらの判決は、差し迫った訴訟や和解の波の先駆けとなる可能性がある。現在、連邦裁判所では「多地区訴訟3047」という歴史的な訴訟が進行中であり、41人の州司法長官、数百の学区、数千の個人訴訟が統合され、ソーシャルメディアプラットフォームの「不合理に危険な」設計が争われている。

これらの事件は、数十億ドルの資金移動を意味する。つまり、その大部分を公衆のデジタル・レジリエンスに向ける稀な機会がある。政策上の重要な問題は、被害者への救済後、資金が一般財源に消えるのか、それとも公衆が直面する実際の問題に対処するために使われるのかである。

理想的には政府が直接教育努力に資金を提供すべきだが、現在の州訴訟は公衆を守るための突破口を提供している。州司法長官と議会は、潜在的な賠償金や救済の構成を今から検討すべきである。著者らは、被害者への支払いを最優先し、残りを独立した監視機関、メディアリテラシープログラム、労働者教育に充てる「デジタル・レジリエンス基金」の設立を提案している。

法的救済は通常、特定の害に対処するため、基金は高度に調整可能だ。例えば、訴訟が未成年を危険にさらすチャットボットに焦点を当てている場合、基金は学校ベースのAIリテラシープログラムや心理的影響の研究に充てられる。欺瞞的データ慣行やディープフェイクを中心とする訴訟では、独立したテックウォッチドッグへの資金や合成メディアを見分けるキャンペーンが可能になる。州議会は和解条件を補完または拡大する役割を果たせる。

この種の公衆啓発キャンペーンは効果を上げることが実証されている。1998年のタバコマスター和解協定では、州司法長官が資金を真実イニシアチブと喫煙教育に永久に充てた。そのキャンペーンと新法により、アメリカ人の行動は恒久的に変化した。オピオイド和解、住宅ローン和解、フォルクスワーゲン排出ガス和解も同様の成功例だ。フィンランドのメディアリテラシープログラムも、プロパガンダに対する最も回復力のある国民を生み出した。

元規制当局者として、公衆を守ることはリスクから守るだけでなく、普通の人々、親、高齢者、そして何よりも子どもに、このテクノロジーと共に生きる知識と手段を提供することだと私たちは知っている。