政治キャンペーンでは、メッセージを強化するためにAIやディープフェイクの活用が急速に広がっており、その蔓延規模に専門家は警鐘を鳴らしている。
ニューヨーク市クイーンズ区の市議会議員候補ジョナサン・リナルディ氏は、自宅のベッドでiPhoneを操作し、AIチャットボットを使って実際には受け取ったことのない偽のニュースや推薦を作成した。昨年10月の選挙戦中、リナルディ氏はCNNのロゴをあしらった、あたかも本物のようなストーリーをFacebookとInstagramに投稿。その内容は、対立候補で現職民主党員のリン・シュルマン氏が「一連の重大なミスにより選挙戦からの撤退を余儀なくされた」というものだった。しかしシュルマン氏は撤退しておらず、11月の選挙で圧勝した。
この事例は氷山の一角に過ぎない。AIツールの普及により、リアルな偽コンテンツの作成はかつてなく容易になっている。専門家は、AIが小規模な選挙チームのプロフェッショナルな広告作成を助け資源格差を是正する可能性がある一方で、嘘や誤情報を大規模に拡散する危険な道具にもなり得ると警告する。現在のところ規制は不十分であり、ソーシャルメディアプラットフォームの審査体制も技術の急速な進化に追いついていない。
この技術競争の中で、候補者も有権者も警戒を怠るべきではない。選挙活動において透明性と真実性は依然として中核的な原則であり、AIの活用には厳格な倫理基準と法的枠組みが伴わなければならない。