AIの群れが誰にも気づかれずに民主主義を乗っ取る可能性

新しい政治的な脅威が浮上しつつあり、それは従来の抗議や有権者操作よりもはるかに目立たないものです。研究者らは、高度にリアルなAI制御のペルソナが近いうちに世論形成と民主主義システムに大きな役割を果たす可能性があると警告しています。

『Science』誌に掲載された最近の政策フォーラム論文は、AI生成のペルソナの大規模グループがオンラインで人間の行動を説得力を持って模倣する方法を説明しています。これらのシステムはデジタルコミュニティに参加し、議論に参加し、異常な速さで見解に影響を与えることができます。初期のボットネットワークとは異なり、これらのAIエージェントは即座に調整し、フィードバックに応答し、数千のアカウントにわたって一貫したナラティブを維持できます。

AIペルソナがどのように人間を模倣するか 大規模言語モデルとマルチエージェントシステムの急速な進歩により、単一のオペレーターが広大なAI「声」のネットワークを管理することが可能になりました。これらのペルソナは本物に見え、現地の言語やトーンを採用し、他のユーザーに自然に感じられる方法で対話できます。

さらに、何百万もの小規模実験を実行して、どのメッセージが最も説得力があるかを判断できます。これにより、リアルタイムでコミュニケーション戦略を洗練し、広範な公衆の合意があるように見せかけることができます。実際には、その合意は人工的に作られ、政治的議論に影響を与えるために設計されています。

ディープフェイクと偽ニュースが初期リスクを示す 完全に発達したAIの群れはまだ理論的な段階ですが、研究者らはすでに警告サインがあると述べています。これには、ブリティッシュコロンビア大学のコンピューター科学者ケビン・レイトン＝ブラウン博士によると、米国、台湾、インドネシア、インドなどの国々の最近の選挙の議論に影響を与えたAI生成のディープフェイクや偽ニュースアウトレットが含まれます。

同時に、監視組織は親クレムリンネットワークが大量のオンラインコンテンツを拡散していることを特定しました。この活動は、将来のAIシステムのトレーニングに使用されるデータを形成し、それらのシステムの動作や優先する情報に影響を与える可能性があると考えられています。

専門家は民主主義への影響拡大を警告 今後、専門家はAIの群れが民主社会の権力バランスに大きな影響を与える可能性があると考えています。レイトン＝ブラウン博士は、これらのシステムが人々のオンラインでの情報の信頼方法を変える可能性があると警告しました。「これらのシステムが出現するにつれて、社会が変わらないままだと想像すべきではありません。起こり得る結果の一つは、ソーシャルメディア上の未知の声への信頼が低下し、有名人の影響力が強まり、草の根のメッセージが届きにくくなることです。」

研究者らは、今後の選挙がこの技術の重要なテストになると示唆しています。主な課題は、AI主導の情報キャンペーンが制御不能になる前に認識し、対応することです。