AI群体可能在不被察觉的情况下劫持民主
研究人员警告，高度逼真的AI驱动角色可能很快充斥社交媒体，它们模仿真人，协调行动，大规模影响舆论。与传统机器人不同，这些AI能够适应、协调并优化信息传递，制造虚假的共识感。早期预警信号已出现在全球选举中，如深度伪造和假新闻网络。专家认为下一届选举将是这一技术的真正考验。
一种新型政治威胁正在浮现，它比传统的抗议或选民操纵更加隐蔽。研究人员警告，高度真实的AI控制角色可能很快在塑造公众舆论和影响民主体系中扮演重要角色。
一篇发表在《科学》杂志上的政策论坛文章描述了AI生成的角色如何令人信服地模仿人类在线行为。这些系统可以进入数字社区、参与讨论并以极快速度影响观点。与早期的机器人网络不同，这些AI代理能够即时协调、响应反馈，并在数千个账户中保持一致叙事。
AI角色如何模仿真人 大语言模型和多智能体系统的快速进步使单个操作者能够管理庞大的AI“声音”网络。这些角色可以显得自然，采用当地语言和语调，以其他用户感到自然的方式互动。
它们还能够运行数百万个小规模实验，以确定哪些信息最具说服力。这使它们能够实时优化沟通策略，并制造出看似广泛的公众意见一致。实际上，这种共识是人为制造的，旨在影响政治讨论。
深度伪造和假新闻标志早期风险 尽管完全成熟的AI群体仍主要处于理论阶段，但研究人员表示已有预警信号。这些包括AI生成的深度伪造和假新闻媒体，据不列颠哥伦比亚大学计算机科学家Kevin Leyton-Brown博士称，它们已影响了美国、台湾、印度尼西亚和印度等国的选举对话。
同时，监测组织发现亲克里姆林宫的网络传播大量在线内容。这些活动被认为旨在影响未来AI系统的训练数据，可能影响这些系统的行为和信息优先级。
专家警告对民主的影响日益增长 展望未来，专家认为AI群体可能显著影响民主社会的权力平衡。Leyton-Brown博士警告，这些系统可能改变人们在线信任信息的方式。“我们不应认为随着这些系统的出现，社会将保持不变。一个可能的结果是，对社交媒体上未知声音的信任度下降，这可能会增强名人的影响力，使草根信息更难传播。”
研究人员建议，即将到来的选举可能成为这一技术的关键测试。主要挑战在于在AI驱动的信息战变得过于广泛而无法控制之前，识别并应对它们。