我们审查了78个选举深度伪造。政治虚假信息不是AI问题。

AI生成的虚假信息曾是2024年美国总统选举期间最受关注的问题之一。世界经济论坛在2024年1月警告称，虚假信息和错误信息是全球面临的最严重短期风险，而AI正在放大被操纵和扭曲的信息，可能破坏社会稳定。许多新闻头条也在强调这一威胁。然而，在过去的分析中，我们曾预测AI不会导致虚假信息灾难。当Meta发布其开源大语言模型LLaMA时，我们认为它不会引发虚假信息浪潮。在后续文章中，我们指出虚假信息的分发是影响行动的关键瓶颈，而生成式AI虽然降低了创建虚假信息的成本，但并未降低分发成本。其他一些研究人员也提出了类似观点。

哪种观点更符合事实？幸运的是，2024年全球选举中AI使用的证据可以帮助回答这一问题。许多新闻机构和研究项目已经整理了已知的AI生成文本和媒体案例及其影响。与其猜测AI的潜力，不如审视其实际影响。我们分析了WIRED AI选举项目收集的所有78个AI用于选举的案例，该项目追踪了2024年全球选举中使用AI创建政治内容的已知情况。在每个案例中，我们确定了AI的用途，并评估了不使用AI创建类似内容的成本。

我们发现：（1）半数AI使用不具有欺骗性；（2）使用AI创建的欺骗性内容无需AI也能低成本复制；（3）关注虚假信息的需求而非供给，是诊断问题和确定干预措施的更有效方法。需要明确的是，AI生成的合成内容确实存在许多真正危险：创建未经同意的个人图像和儿童性虐待材料，以及助长“说谎者红利”，使当权者能够将真实但令人尴尬或有争议的媒体内容归咎于AI。这些都是重要挑战，但本文关注的是另一个问题：政治虚假信息。

改善信息环境是一项艰巨而持续的挑战。人们认为AI使问题恶化是可以理解的，因为AI确实能够制造虚假内容。但这并未从根本上改变政治虚假信息的格局。矛盾的是，对AI的恐慌可能令人安慰，因为它将信息环境的担忧定位为一个独立问题，并有其独立解决方案。但信息环境的改善依赖于结构和制度变革，而非限制AI生成内容。

2024年选举中半数深度伪造并非欺骗性

我们分析了WIRED AI选举项目中的所有78个AI使用实例。我们根据是否存在欺骗意图进行分类。例如，如果AI被用来生成虚假媒体，描绘政治候选人说他们未说过的话，我们将其归类为欺骗性。相反，如果聊天机器人对真实用户查询给出错误回答、深度伪造用于恶搞或讽刺、或候选人透明地使用AI改进竞选材料（如将演讲翻译成他们不会说的语言），则归类为非欺骗性。

令人惊讶的是，数据库中78个案例中有39个没有欺骗意图。最常见的非欺骗性AI用途是竞选活动。候选人或支持者使用AI进行竞选时，大多数情况（22例中的19例）的明显意图是改进竞选材料，而非用虚假信息误导选民。我们甚至发现一些深度伪造有助于改善信息环境。在委内瑞拉，记者使用AI化身以避免在报道对政府不利的新闻时遭受政府报复。在美国，亚利桑那州的地方新闻机构Arizona Agenda利用深度伪造教育观众视频被操纵的容易程度。在加利福尼亚州，一位患有喉炎的候选人失声，他透明地使用AI语音克隆以他的声音朗读打字信息，与选民会面。

合理的人可能对在竞选材料中使用AI是否合法或需要何种适当护栏存在分歧。但以非欺骗方式使用AI（例如作为改善选民外展的工具）比部署AI生成的假新闻来影响选民问题小得多。当然，并非所有非欺骗性AI生成的政治内容都是良性的。聊天机器人经常错误回答选举相关问题。这不是出于欺骗意图，而是聊天机器人局限性的结果，如幻觉和缺乏事实性。不幸的是，这些局限性未向用户明确说明，导致过度依赖有缺陷的大语言模型。

制造欺骗性政治虚假信息无需AI

对于39个具有欺骗意图的案例（AI用于让观众相信彻头彻尾的虚假信息），我们评估了不使用AI创建类似内容的成本——例如聘请Photoshop专家、视频编辑或配音演员。在每个案例中，不使用AI创建类似内容的成本都不高——不超过几百美元。（我们甚至发现WIRED选举数据库中错误地将一个涉及雇佣舞台演员的视频标记为AI生成。）

事实上，长期以来无需AI或其他花哨工具即可创建包含彻头彻尾虚假信息的媒体。一段视频使用舞台演员虚假声称美国副总统兼民主党总统候选人卡玛拉·哈里斯卷入肇事逃逸事件。另一段视频将副总统的演讲放慢，使其听起来像在含糊其辞。一段经过编辑的印度反对派候选人拉胡尔·甘地的视频显示他表示现任总理纳伦德拉·莫迪将赢得选举。在原视频中，甘地说他的对手不会赢得选举，但通过跳跃剪辑去掉了“不”字。这类媒体内容被称为“廉价伪造”（相对于AI生成的“深度伪造”）。

2024年美国选举中出现了许多廉价伪造实例。新闻素养项目记录了已知的选举虚假信息，发现廉价伪造的使用频率是AI生成内容的七倍。在其他国家，廉价伪造也相当普遍。印度的事实核查机构审查的廉价伪造和传统编辑媒体数量比深度伪造多一个数量级。在孟加拉国，廉价伪造的流行程度是深度伪造的20倍以上。

让我们分析两个例子，看看廉价伪造如何产生与备受媒体关注的深度伪造实质上相似的效果：唐纳德·特朗普使用泰勒·斯威夫特深度伪造进行竞选，以及一个模仿美国总统乔·拜登声音的语音克隆机器人电话，在初选中要求选民不要投票。

特朗普在Truth Social上发布了一张帖子，包含穿着“Swifties for Trump”T恤的泰勒·斯威夫特粉丝图片。左上角是一张AI生成的女性穿着“Swifties for Trump”T恤的图片，带有“讽刺”标签。右上角是特朗普支持者Jenna Piwowarczyk穿着同款T恤的真实照片。左下角是一张合成的泰勒·斯威夫特站在美国国旗前的图片，标题为“泰勒希望你投票给唐纳德·特朗普”。目前尚不清楚该图片是由AI还是其他编辑软件创建。右下角是一张Twitter帖子，包含两张女性穿着“Swifties for Trump”T恤的图片，一张AI生成，一张真实。

特朗普使用斯威夫特深度伪造暗示泰勒·斯威夫特支持他，并且斯威夫特粉丝大量参加他的集会。帖子发布后，许多媒体将虚假信息的传播归咎于AI。但无需AI即可轻松创建类似图片。可以通过将支持特朗普的文字P到任何斯威夫特现有图片上来创建描绘斯威夫特支持的图片。同样，获取特朗普支持者穿着“Swifties for Trump”T恤的图片可以通过在集会上分发免费T恤来实现——甚至可以有选择地联系特朗普集会上的斯威夫特粉丝。事实上，特朗普分享的图片中有两张是同时是斯威夫特粉丝的特朗普支持者的真实照片。

另一起引发短暂恐慌的事件是AI克隆的乔·拜登总统声音，要求人们不要在新罕布什尔州初选中投票。针对此类机器人电话的规定已存在多年。实际上，此次机器人电话的肇事者被联邦通信委员会罚款600万美元。FCC设有举报热线报告类似攻击，并经常执行相关规定，无论是否使用AI。由于该机器人电话使用了静态录音，无需AI也可以轻易制作——例如，雇佣声音模仿者。该机器人电话的影响也不清楚：深度伪造的效果取决于接听者是否相信美国总统亲自打电话要求他们不要投票。

技术改进和试图影响选举的行动者专业知识是否会导致更有效的AI虚假信息？我们认为不会。接下来，我们指出驱动虚假信息需求的结构性原因并未因AI而改变。然后，我们回顾一下伴随新工具发布而对AI虚假信息浪潮的预测历史——这些预测并未成真。

虚假信息的需求

虚假信息可以通过供需力量来看待。供给来自希望通过点击赚钱的人、希望自己一方获胜的党派人士或希望进行影响力行动的国家行为者。迄今为止的干预几乎完全试图遏制虚假信息供给，而需求未变。对AI的关注是这一趋势的最新例子。由于AI将生成虚假信息的成本降至接近零，将虚假信息视为供给问题的分析师非常担忧。但分析虚假信息需求可以阐明虚假信息如何传播以及哪些干预措施可能有效。

关注虚假信息需求告诉我们，只要人们持有某些世界观，他们就会寻找并找到与这些观点一致的信息。根据一个人的世界观，所讨论的信息往往是虚假信息——或至少会被持不同世界观的人视为虚假信息。换句话说，成功的虚假信息行动针对的是内部群体成员——那些已经认同信息广泛意图的人。这些接收者对符合其世界观的信息可能怀疑较少，甚至愿意明知是虚假信息仍进行放大。在这种情况下，虚假信息不需要复杂工具就能生效。另一方面，无论是否使用AI，都极难让外部群体成员相信他们不同意的虚假信息。

这样看来，AI虚假信息在其通常被描绘的“影响选民”角色上作用非常不同。增加虚假信息供给不会显著改变虚假信息需求的动态，因为增加的供给在争夺相同的眼球。此外，增加的虚假信息供给很可能主要被一小部分已经同意并大量消费虚假信息的党派人士消费，而非说服更广泛的公众。这也解释了为什么廉价伪造（如无关事件的媒体、传统视频编辑如跳跃剪辑、甚至是视频游戏画面）尽管质量低劣，却能有效传播虚假信息：如果某人已经同意其信息，就更容易说服他们。

我们对虚假信息需求的分析可能最适用于两极分化且竞争激烈的国家，其中主要政党的选民外联能力相似，因此选民的（错误）信息需求已经饱和。尽管如此，据我们所知，在2024年举行选举的所有国家中，AI虚假信息的影响远小于担忧。在印度，深度伪造更多用于恶意攻击而非传播虚假信息。在印度尼西亚，AI的影响不是传播虚假信息，而是软化当时候选人、现总统普拉博沃·苏比安托的形象（一位被指控过去犯有人权侵犯的前将军），使用AI生成的数字卡通头像将他描绘得讨人喜欢。

为何对AI虚假信息的担忧不断重复？

2024年选举周期并不是第一次普遍担心AI深度伪造会导致政治虚假信息泛滥。在2020年美国大选之前就曾表达过惊人的类似担忧，尽管这些担忧并未成真。新AI工具的发布往往伴随着它将释放新一波虚假信息的担忧：2019年OpenAI发布GPT-2系列模型时，扣留最强大模型权重的主要原因之一是其生成虚假信息的潜力。2023年Meta公开发布LLaMA模型时，多家新闻机构报道了它可能引发AI虚假信息洪流的担忧。这些模型比2019年的GPT-2强大得多，但我们尚未看到使用LLaMA或其他大语言模型大规模说服选民证据。2024年，智能手机上AI图像编辑工具的广泛可用性引发了类似担忧。

事实上，对使用新技术创建虚假信息的担忧可以追溯到一个多世纪前。19世纪末20世纪初，照片修饰技术问世，伴随而来的是修饰过的照片被用来欺骗人们的担忧。1912年，美国提出了一项法案，将未经被摄者同意而编辑照片定为刑事犯罪（该法案在参议院未通过）。

将政治虚假信息视为技术（或AI）问题很有吸引力，因为这使解决方案看似易于处理。如果我们能够撤销有害技术，就能大幅改善信息环境！然而，虽然改善信息环境的目标值得称赞，但指责技术并非解决之道。政治极化导致对媒体更不信任。人们更倾向于确认自己世界观的消息源，并对符合自己世界观的内容不那么怀疑。另一个主要因素是过去二十年新闻业收入的急剧下降——主要由从传统媒体向社交媒体和在线广告的转变推动。但这更多是人们在寻求和消费信息方式上结构性变化的结果，而非在线共享虚假信息的特定威胁。

正如历史教授萨姆·莱博维奇所指出的，改善信息环境与巩固民主及其制度的更大项目密不可分。没有快速的技术修复或针对性监管能够“解决”我们的信息问题。我们应该拒绝简单地将政治虚假信息归咎于AI的诱惑，并正视这一难题的严重性。