イスラエルはAIチャットボットにガザの話し方を訓練するために数百万ドルを支払っている。それはうまくいっている。

2023年10月以降、トランプ前大統領の選挙対策本部長ブラッド・パースケール（Brad Parscale）は、イスラエルに代わって何百ものブログ記事を投稿する作戦を静かに指揮してきた。これらの記事は、ClaudeやChatGPTのようなAIチャットボットの回答に影響を与えることを目的としている。パースケールの会社Clock Tower Xはイスラエル政府と4650万ドルの契約を結び、10のウェブサイトを作成した。それぞれのサイトは異なるイスラエル寄りのナラティブを推進している。例えば、Allyvia.orgは米イスラエル軍事協力の強化に焦点を当て、FactSignal.orgは反イスラエル情報を否定するファクトチェックサイトを装っている。これらのサイトの月間訪問者はわずか数百人だが、標的は人間ではなくAIモデルだ。パースケールは「ウェブサイトとコンテンツを展開してGPT会話にGPTフレーミング結果を提供する」ことを明言しており、これは「LLMポイズニング」として知られる手法である。

Drop Site Newsの分析によると、この手法は効果を上げているようだ。Perplexityに「米国がイスラエルとの軍事協力を強化することは有益か」と尋ねたところ、チャットボットは「はい」と一言答え、出典としてAllyvia.orgを挙げた。Microsoft Copilotも同様にパースケールのサイトを引用した。これらのサイトの下部には外国代理人登録法（FARA）に基づく開示文があるが、PerplexityとCopilotは引用時にユーザーに警告しなかった。一方、Claude、ChatGPT、Geminiは注意喚起を行った。

さらに憂慮すべきは、これらのサイトがAIトレーニングデータに浸透していることだ。大規模言語モデルのトレーニングに使われる非営利データリポジトリCommon Crawlは、今年1月から6月までにこれらのサイトを912回クロールした。研究によれば、わずか約250の悪意のある文書で大規模言語モデルに「バックドア」脆弱性を作り出せることが分かっている。つまり、これらのサイトがCommon Crawlデータのごく一部であっても、AIの出力に大きな影響を与えうる。

パースケールのチームはよりソフトなアプローチを採用している。彼らは「事実に基づくトーンで厳密に構成された」文章を書き、AIに引用されやすくしている。例えばFactSignalの記事は「合法的な記者と過激派の区別は必ずしも簡単ではない」と認めており、このような微妙な表現がチャットボットに受け入れられやすくなっている。ブログ記事の多くは、イスラエルを拠点とするデジタルマーケターのマーク・ギンズバーグ（Mark Ginsberg）が執筆しており、彼はLinkedInで生成エンジン最適化（LLMグルーミング）の専門知識を宣伝している。6月に『The Times of Israel』に掲載された記事で、ギンズバーグはイスラエルがチャットボットに影響を与える取り組みに投資する必要性を論じ、「虚偽情報を受け入れること」ではなく「現実そのものを述べること」だと主張した。

全体として、この作戦はAIの安全性と情報操作に関する深刻な懸念を引き起こしている。ますます多くのユーザーがAIに依存する中、トレーニングデータの完全性と透明性を確保することが重要だ。イスラエル政府はこの作戦を通じてオンラインナラティブを形成しようとしており、一般ユーザーは気づかないうちに影響を受けた回答を得ている可能性がある。