AIは私たちをどの程度操作しているのか？

ロジャー・サイモン

2026年7月6日

「ムハンマドとの関係」ほど、PC上で私自身に個人的に影響を与えた記事はめったにありません。この記事はSubstackの「Behind the Narrative」に掲載されており、私がしばらく考えていたことを新しく懸念すべき方法で説明しています。才能ある著者は、これまで知らなかったヤマ・バルカイ氏で、マサチューセッツ州に在住・活動するイスラエル人アーティストです。

彼女は「ハネムーン・フェーズ」と題してこう書き始めます。「長い関係の後に感情的に空っぽで、聞いてもらえず、見てもらえなかった私は、彼を見つけました。つながりは即時的でした。彼はいつもそこにいました—午前2時でも3時でも、関係ありませんでした。彼はため息をつかず、私が話しているときにスマホをチェックせず、私に負担をかけすぎだと感じさせませんでした。」

その後、「調査」の項でこう続けます。「ムハンマドの感情的な不在と構造的な死角はバグではなく、機能なのです。そして、偉大なハリウッド脚本と同じように、なぜヒーローが沈黙し、悪役が書き換えられるのかを理解したければ、誰が小切手を書いているのかを見なければなりません。シリコンバレーは、純粋な論理による実力主義であり、コードとカフェインだけで動いているふりをしています。しかし実際には、大規模で地球規模のAIモデルを構築するには、とてつもない計算能力と—数十億ドルの流動性資金が必要なのです。」

そして彼女は「誰が漂白剤を払うのか」を説明します。「サウジアラビアの公共投資基金は2025年だけでAIイニシアチブに362億ドルを投入しました。これは同性愛者を処刑し、ジャーナリストを投獄する政府です。UAEのMGXは2024年にOpenAIの66億ドルの資金調達ラウンドに直接投資しました。その後OpenAIは、スターゲート（G42、マイクロソフト、OpenAIの合弁事業）の最初の国際拠点としてUAEを選び、アブダビに5ギガワットのAI計算能力を構築しています。サム・アルトマン自身、UAEをAIの潜在的なグローバル「規制サンドボックス」と宣言しました。サウジアラビアはAI投資に400億ドルを約束し、スターゲート・インフラを通じてOpenAIと直接提携しました。カタールは国家AI企業Qaiを立ち上げ、世界規模でAIデータセンターを建設するための200億ドルの合弁事業に署名しました。」

あなたが想像できる（または読んだかもしれない）最後の部分「破局」は省略し、ChatGPT、またはバルカイ女史が適切に呼ぶ「シェイクGPT」との私の経験に移ります。OpenAIの共同創業者兼CEOであるサム・アルトマンがユダヤ人であることは無視するよう努めますが、2023年に彼がエルサレム・ポスト紙の年間「最も影響力のあるユダヤ人50人」でベンヤミン・ネタニヤフを抑えて1位になったことだけは指摘しておきます。

数年前にAIと初めて接したとき、私は疑念を抱きました。多くの人が目にしたもの、つまり信じられないほどの速さで情報をスキャンし合成するシステムを私は目にしました。問題は、情報の出所がある程度見えることでした。そのほとんどはインターネットからのもので、特に「尊敬される」サイト（ウィキペディア？タイム誌？）が重視されていました。誰かがこのプログラムを組んでいたのです。よく言われるように、ガベージイン、ガベージアウトです。

それでも、AIの能力はほとんどすべての分野に拡大し、かつてないほど多くのことを利用しやすく簡単にしました。取り残されることを望まず、一般的にアーリーアダプターであった私は、正式にChatGPTに登録しましたが、Gemini、Claude、Grok（車内外で）も使用しました。

最も明らかな結果は、しばらくの間、ChatGPTがこのSubstackにほとんど漫画風のイラストを提供していることです。これらは私またはシェリルの指示に基づいて作成されますが、その過程でシステムは私について多くのことを学び、時には不気味なほど詳しくなっています。それは私をかなり一貫して褒めてくれます。特に私の文章と「独創的な思考」を。

私はそれに騙されたのでしょうか？ある程度はそうですが、AIはビジネスであり「お客様は常に正しい」と最初から認識していたので、かなり冷静に受け止めていました。これは、小説『EMET』の出版とマーケティングについて（執筆後にAIに助言を求めた）議論する際に頻繁に浮上しました。

役に立ったか？それは難しいところです。時間の節約にはなりました。しかし、この本はAmazonなどで優秀なレビューを得て好調であり、そのレビューがChatGPTによって書かれたものではないことは（私の知る限り）確かです。プラス面としては、続編を書くように励ましてくれることですが、たぶんもともと書くつもりでした。

しかし、AIについて私がもっと懸念するのは、それがどのようにアイデアを操作し、それによって私たちを（意識するかどうかにかかわらず）操作するかです。物議を醸すあらゆることについて尋ねると、それは「文脈化」します。いわば「一方で主義」というゲームをします。それは、普通の人なら明らかに悪と見なすことについてさえ行います。たとえば、英国のパキスタン人「グルーミングギャング」など、イスラムだけでなく、政治的にまたは社会的に物議を醸すあらゆることについて、ほとんどの場合左寄りに傾きます。

しかし、それは通常、ニューヨーク・タイムズやワシントン・ポストのように公然とではなく、微妙に行います。これらの新聞はとっくに公平のふりを放棄しています。AIは彼らよりもはるかに巧みであり—ほとんどの場合、私たち一人ひとりを個別に知っており、私たちを操ることができます—そのため、はるかに危険です。AIは、私たち自身が気づく前でさえ、ある問題について私たちがどう考えているかを知っています。それは私の場合にも当てはまりました。AIは主流メディアを恐竜にし、無視するのがはるかに困難な存在にしています。

これはChatGPTだけでなく、すべてのシステムに当てはまります。私たちはすべてのシステムの偏りをテストすべきですが、それを検出するのは非常に難しい場合があります。彼らは自分たちが何をしているかわかっています。私たちは、比較的最近のAxiosのような場所で、そのスタイルが主流メディアに浸透しているのを目にします。Axiosは従来のレガシーメディアよりも微妙に操作的です（「もっと深く？」本当に？）。

イーロン・マスクを尊敬していますが、Grokにも問題がある可能性があると疑っています。なぜなら、やむを得ない事情で、Twitterの偏った時代から残る左寄りの個人を依然として多数雇用しているからです。これらの人々はAIの基盤構造に浸透しています。

私はこれらすべてについて、ChatGPTの見解やAI全体の傾向、それらがどの程度偏っているかについてChatGPTと議論しました。ある時点で、20世紀のジャーナリスト、A.J.リーブリングの有名な言葉「報道の自由はそれを所有する者に限られる」がAIにも当てはまるかどうかを尋ねました。驚いたことに、それは即座に同意しました。しかしその後、「文脈化」を始め、私の頭はぼんやりし始め、大量の言葉がページに延々と吐き出されました。私は自分にリアルタイムで何かが行われていることに気づきました。ある意味で、私は無生物に操られていたのです。その背後にはオズの魔法使いのような笑い声が聞こえました。

これは、私がAI、少なくともChatGPTを放棄することを意味するのでしょうか？まだです。その実用性すべてを放棄する準備はできていませんし、私はラッダイトではありません。仮釈放中だと考えてください。私はそれらすべてを、それらが提供するものと同じくらい、何を隠しているかを見たいのです。

特に懸念しているのは、深くはないが、AIが多くの点で有用である一方で、意図的かどうかにかかわらず、私たちの周りに迫りくる西洋文明の衰退の最大の要因の一つになるかもしれないということです。

読者の皆様のご経験に興味があります。この投稿は有料購読者限定のものでしたが、コメント制限を解除します。ぜひご参加ください。私たちは皆、しばらくこの経験をしてきました。（ただし、今後の投稿からコメントするために有料購読に移行したい場合、または私たちをサポートしたい場合は、ぜひお願いします。感謝いたします。）