AIウィークリー第491号：「100年後：最後の選挙」
AI生成のディープフェイクが民主主義への信頼を蝕み、同じ企業が選挙を妨害しつつ、自らを統治の代替案として提供するパラドックスを探る。
これは「100年後」シリーズです。毎週一世紀を飛び越え、現在構築している技術が定着した後の生活を想像します。今週のテーマ：最後の投票。
2025年、アイルランドで、大統領候補が投票日前に撤退するというディープフェイクが拡散しました。全国放送局の「確認」映像が偽造され、影響を及ぼすほど速く広がりました。
2024年の英国総選挙では、有権者の過半数が候補者に関する誤情報を見たと回答し、4分の1がディープフェイクを目撃しました。2026年までに技術の欠陥は消え、誰でもスマートフォンで作成できるようになります。
これが何を意味するか考えてみてください。政治家のビデオ発言が実際にあったかどうか、真偽がわからないのです。検出ツールは常に一歩遅れ、プラットフォームが削除するまでに数分で拡散するコンテンツを数時間かかります。あらゆる映像を見るたびに、「これは本物ではないかもしれない」という疑念がつきまといます。
嘘は消えませんでした。むしろ、捕捉不可能になりました。嘘を捕捉できなければ、真実も証明できません。基盤全体が崩壊します。
民主主義は常に、有権者が適切な情報を与えられれば適切な判断を下せるという前提に依存してきました。これは完全に真実ではありませんでした——プロパガンダは古代からあり、政治家は常に嘘をついてきました。しかし、ベースラインはありました。演説をファクトチェックでき、映像は映像でした。そのベースラインは消え、二度と戻らないでしょう。
奇妙なのは、人々がこれに怒っていないことです。彼らは疲れています。世界経済フォーラムの調査では、欧州人の4分の1が政治家よりもAIによる統治を好むと回答しました。アルゴリズムを愛する人はいませんが、人々はもううんざりしています。政治家が嘘をつき、ディープフェイクが嘘をつき、メディアが嘘をつき、Facebookの叔父も嘘をつく。少なくともアルゴリズムは毎回同じ答えを返します。
この選好は増える一方です。SSRNの学術論文は、民主主義をAIアルゴリズムに置き換えるべきだと主張しています——人間主導の民主主義は「認知バイアス、誤情報への脆弱性、意思決定の遅さ」に満ちており、複雑な社会を運営できないと。この議論はAIを支持するものでさえなく、人間に反対しています。「あなたはこれをもうできないほど壊れている」。十分な人がこれを信じれば、後はロジスティクスの問題になります。
私はシンギュラリティが実際に何であるかを考え続けています。劇的な瞬間——機械が目覚め、警報が鳴る——を想像しますが、もっと静かなものになるでしょう。ある火曜日、人々は何が現実かを理解するのに疲れ果て、おそらく最後の投票で、他の何かに任せることを選びます。誰も襲撃せず、人々はただ現れなくなります。
ここで特定の筋道をたどってください。これが本当に気になる部分です。
ディープフェイクを生成するツールと「統治を修正する」と申し出る企業は同じです。漠然と言っているのではなく、具体的に指摘しています。
OpenAI自身の報告書は、自社のモデルが選挙介入に使用された「20以上の作戦」を妨害したと認めています。生成AIによるディープフェイクは1年で900%急増しました。2024年の米大統領選挙だけで、OpenAIは政治家のディープフェイク生成リクエストを25万件以上拒否しました。1つのプラットフォームで25万回の試みです。
それが製品です。
では、ここで転回します。同じ企業——そのツールが選挙攻撃に使われている——が「OpenAI for Government」を通じて国防総省と2億ドルの契約を結びました。そして、連邦政府機関にChatGPTを1ドルで提供しました。Sam Altmanは公然と言いました：「AIをすべての人に役立てる最善の方法の一つは、国に奉仕する人々の手に渡すことです。」これは、あなたの仕事の給与の代わりに計算トークンを提供する同じ人物です。
Palantirはさらに深く関与しています。Alex Karp——「考えるのをやめろ」と言った哲学者——が率いる企業は、100億ドルの陸軍契約を獲得し、Project Maven（国防総省のAI監視・照準システム）を運用し、国連特別報告官がガザとヨルダン川西岸のパレスチナ人監視に関連付けた技術を持っています。経済学者Yanis Varoufakisら批評家は、Karpのビジョンを「技術ファシズムの論理」と呼びます——レトリックではなく、統治モデルにおいて：市民の制約が遅れる一方で、国家能力を拡大するAIシステム。
AnthropicとOpenAIは機密国防契約を争っています。OpenAIは国防総省向けの発表を文字通り「我々の戦争省との合意」と題しました。
したがって、全体の弧をたどってください。これらの企業はディープフェイクを生成するツールを構築します。ディープフェイクは情報への信頼を破壊します。信頼の崩壊は人々を民主主義から諦めさせます。そして、同じ企業が軍需契約、監視インフラ、およびBig Tobaccoがかつて費やした額をはるかに超えるロビー活動予算に支えられ、統治を肩代わりすると申し出ます。
彼らは通過した唯一の説明責任法案を殺し、責任上限を100ドルに設定し、コードを学ぶなとあなたに言って出力を監査できなくし、今や国家の鍵を求めています。
これは陰謀論ではありません。この記事のすべてのリンクは、プレスリリース、政府文書、ニュースレポート、または査読付き論文です。すべて公開されています。それがおそらく最悪の部分です。
シンガリティが到来するとき、それは政治的なものになるでしょう。文明が自己統治はあまりにも面倒だと判断し、投票で罷免できない何かに鍵を渡すのです。
誰も電車の遅れのために独裁者に投票したわけではありません。彼らは疲れ果てており、独裁者が混乱を取り除くと約束したから投票したのです。民主主義は常に混乱と共に生きることを選ぶことでした——プロセスはあなたのものであり、きれいな答えは決してあなたのものではなかったからです。
100年後、その選択は、私たちにとって手耕がそうであるように見えるかもしれません——人々がより良い方法を知る前に行っていたこととして。
最後の選挙は盗まれたりハッキングされたりしません。それは、十分な人が気にしなくなり、投票で罷免できない何かが静かに席に着く選挙です。