AIウィークリー第491号：100年後の未来：最後の選挙

2025年のアイルランドでは、ディープフェイクによって大統領候補が選挙直前に撤退するという偽動画が拡散され、影響を及ぼした。2024年の英国総選挙では、有権者の半数以上が候補に関する誤解を招く情報を目撃し、4分の1がディープフェイクを目にした。2026年までに技術的な欠陥はなくなり、誰でもスマートフォンでディープフェイクを作成できるようになる。これは何を意味するか？政治家がビデオで何かを語っても、それが実際に起こったことかどうかが本物かどうか確信が持てないということだ。検出ツールは常に一歩遅れ、プラットフォームがコンテンツを削除するのに数時間かかるが、拡散は数分で完了する。今やあらゆる動画を視聴するたびに、「これは本当ではないかもしれない」という低いざわめきが聞こえる。嘘は消えず、捕まえられなくなった。嘘を捕まえられなければ、真実も証明できない。基盤全体が崩れ落ちる。

民主主義は、有権者が適切な情報を与えられれば適切な判断ができるという前提で動いてきた。その前提は完全に正しかったわけではない——プロパガンダは古くからあり、政治家は常に嘘をついてきた——しかし、ベースラインはあった。演説をファクトチェックできた。映像は映像だった。そのベースラインは失われ、二度と戻らないだろう。

奇妙なことに、人々はこれに怒っていない。疲れているのだ。世界経済フォーラムの調査では、ヨーロッパ人の4分の1が政治家よりもAIに統治を任せる方を好むと回答した。誰もアルゴリズムを愛しているわけではない。人々は単にうんざりしているのだ。政治家は嘘をつき、ディープフェイクは嘘をつき、メディアは嘘をつき、Facebook上のあなたの叔父も嘘をつく。アルゴリズムは少なくとも同じ答えを二度返してくれる。この選好は一方向にしか進まない。SSRNの学術論文はすでに、民主主義をAIアルゴリズムに置き換えるべきだと主張している——人間主導の民主主義は「認知バイアス、誤情報への感受性、意思決定の遅さ」に満ちており、複雑な社会を運営できないという。この議論はAIに好意的ですらない。人間に否定的なのだ。「あなたはこれをもう行うにはあまりにも壊れている」と。十分な数の人がそれを信じれば、残りはすべてロジスティクスになる。

私はシンギュラリティが実際に何であるかを考え続けている。私たちはドラマチックな瞬間——機械が目覚め、警報が鳴り響く——を想像する。私はもっと静かになると思う。ある火曜日、人々は何が現実かを理解しようとして疲れ果て、投票する——おそらく最後の——何か他のものに処理させるために。誰も襲撃しない。人々はただ現れなくなる。

ここで特定の糸を追ってほしい。これこそが本当に気になる部分だからだ。ディープフェイクを生成するツールと、統治を「修正」することを提案する企業は同じ企業だ。漠然と言っているのではない。具体的に言う。OpenAI自身の報告書は、同社のモデルを利用して選挙に干渉した「20以上の作戦」を阻止したことを認めている。生成AIで作られたディープフェイクは1年で900%急増した。2024年の米国選挙中だけでも、OpenAIは政治人物のディープフェイク生成リクエストを25万件以上拒否した。同じ企業——そのツールが選挙攻撃に使われている——が、OpenAI for Governmentを通じて国防総省と2億ドルの契約を結んだ。その後、全連邦機関にChatGPTを1ドルで提供した。サム・アルトマンは声を大にして言った。「AIがすべての人に役立つようにする最善の方法の1つは、それを国に奉仕する人々の手に渡すことだ。」この同じ男が、あなたにかつて提供していた仕事の給与の代わりとして計算トークンを提供している。

Palantirはさらに深く入り込んでいる。アレックス・カープ——「考えるのをやめろ」とあなたに言った哲学者——が経営する企業は、100億ドルの陸軍契約を獲得し、Project Maven（国防総省のAI監視・標的システム）を運用し、国連特別報告者がガザとヨルダン川西岸のパレスチナ人監視に関連付けた技術を持っている。経済学者ヤニス・バルファキスを含む批評家は、カープのビジョンを「テクノファシストの論理」と呼んでいる——レトリックのためではなく、統治モデルのためだ：市民の制約が遅れる一方で、AIシステムは国家の能力を拡大する。AnthropicとOpenAIは機密国防契約を競い合っている。OpenAIは国防総省の発表に「戦争省との合意」と題した。

完全な弧を辿ってみよう。これらの企業はディープフェイクを生成するツールを構築する。ディープフェイクは情報への公衆の信頼を破壊する。信頼の崩壊は人々に民主主義を放棄させる。そして同じ企業が、軍事契約、監視インフラ、そしてBig Tobaccoがかつて使ったどのロビー活動予算よりも巨額の資金を背景に、統治を運営することを申し出る。彼らは唯一可決された責任法案を殺し、賠償責任を100ドルに制限し、出力を監査できないようにコードを学ぶなと言った。そして今、彼らは国家の鍵を欲しがっている。

これは陰謀ではない。この記事のすべてのリンクは、プレスリリース、政府のファイリング、ニュースレポート、または査読付き論文である。すべて公開されている。それがおそらく最悪の部分だ。

シンギュラリティが来るとき、それは政治的なものになるだろう。文明が自己統治は手間がかかりすぎると判断し、投票で解任できない何かに鍵を渡す。電車が遅れたからといって独裁者に投票した者はいない。彼らは疲れ果てていて、彼が混乱を片付けると約束したから投票したのだ。民主主義は常に混乱と共に生きることを選択することだった——プロセスはあなた自身のものであり、クリーンな答えは決して本当にあなたのものではなかったから。100年後、その選択は、人々がより良い方法を知る前に行っていた手耕しのように見えるかもしれない。

最後の選挙は盗まれたりハッキングされたりしない。それは、十分な数の人が単に関心を失った選挙になるだろう。そして、投票で解任できない何かが静かに椅子に座るだろう。