AI周刊第491期：百年之后：最后一次选举

从2025年爱尔兰的深度伪造事件说起：一段假视频显示总统候选人退选，并在大选前迅速传播。到2024年英国大选，超过一半的选民看到过关于候选人的误导信息，四分之一看到过深度伪造。到2026年，技术漏洞消失，任何人都能用手机制作深度伪造。这意味着，政治人物在视频中的言论真假难辨。检测工具总是慢一步，平台撤下虚假内容需要数小时，而传播只需几分钟。每一次观看视频，你都可能怀疑其真实性。谎言没有消失，而是变得无法捕捉。当谎言无法被揭穿，真相也无法被证明。整个基础崩塌了。

民主一直建立在选民能够基于可靠信息做出明智决策的假设上。尽管这一假设从未完全成立——宣传古已有之，政客一直撒谎——但存在一个底线：你可以核实演讲内容，视频就是证据。如今这个底线消失了，而且似乎无法恢复。

奇怪的是，人们并不愤怒，而是疲惫。世界经济论坛的一项调查显示，四分之一的欧洲人更希望由AI而非政客来治理国家。没人热爱算法，人们只是受够了。政客撒谎，深度伪造撒谎，媒体撒谎，你叔叔在Facebook上也撒谎。算法至少能给出两次相同的答案。这种偏好只会增强。SSRN上的一篇学术论文已经主张用AI治理取代民主——因为人类主导的民主充满“认知偏见、易受虚假信息影响和决策缓慢”，无法管理复杂社会。这个论点甚至不是支持AI，而是反对人类：你太有缺陷了，无法再承担治理责任。一旦足够多的人接受这一点，剩下的只是后勤问题。

我一直在思考奇点究竟是什么。我们想象一个戏剧性的时刻——机器觉醒，警报响起。我认为它会安静得多。某个星期二，人们因试图辨别真假而筋疲力尽，然后投票——也许是最后一次——让别的东西来接管。没有人暴动，人们只是不再出现。

现在请跟随一条具体的线索，因为这才是真正让人不安的部分。制造深度伪造的工具和提供“修复”治理的公司是同一批。我并非含糊其辞，而是具体指：OpenAI自己的报告承认，它打断了“20多起”利用其模型干预选举的行动。使用生成式AI制作的深度伪造在一年内激增900%。仅在2024年美国大选期间，OpenAI就拒绝了超过25万次生成政治人物深度伪造的请求。同一家公司——其工具被用于攻击选举——通过“OpenAI for Government”与五角大楼签订了2亿美元的合同。然后以1美元的价格向所有联邦机构提供ChatGPT。萨姆·奥尔特曼公开表示：“确保AI为每个人服务的最佳方式之一是将其交到为国服务的人手中。”这个人还向你提供计算代币，作为你失业工资的替代品。

Palantir走得更深。亚历克斯·卡普——那位告诉你停止思考的哲学家——经营的公司赢得了100亿美元的陆军合同，运行Project Maven（五角大楼的AI监视和瞄准系统），联合国特别报告员将其技术与加沙和约旦河西岸的巴勒斯坦监视联系起来。包括经济学家雅尼斯·瓦鲁法基斯在内的批评者将卡普的愿景称为“技术法西斯逻辑”——不是因为修辞，而是因为治理模式：AI系统扩大国家能力，而公民约束滞后。Anthropic和OpenAI正在竞争保密国防合同。OpenAI甚至将其五角大楼公告命名为“与战争部的协议”。

所以追踪完整的弧线：这些公司制造了生成深度伪造的工具。深度伪造摧毁了公众对信息的信任。信任崩溃使人们放弃民主。而同一批公司带着军事合同、监控基础设施和比大烟草公司曾花费的游说预算大得多的资金出现，主动提出接管治理。他们扼杀了唯一通过的责任法案，将责任上限限制在100美元，告诉你不要编码，这样你就无法审计输出。现在他们想要国家的钥匙。

这不是阴谋。这篇文章中的每一个链接都是新闻稿、政府文件、新闻报道或同行评审论文。全都是公开信息。这也许是最糟糕的部分。

当奇点到来时，它将是一场政治事件。一个文明决定自我治理太麻烦，于是将钥匙交给一个无法被投票罢免的东西。没有人因为火车晚点而投票给独裁者。他们投票给他是因为筋疲力尽，而他承诺让混乱消失。民主一直是关于选择与混乱共存——因为过程属于你，而干净的答案从来不是你的。百年之后，这个选择可能看起来就像我们现在看待手工耕作一样——人们在懂得更好的方法之前所做的事情。

最后一次选举不会被窃取或入侵。它将是一场有足够多人不再关心的选举。而某个无法被投票罢免的东西将悄然坐上那把椅子。