AI周刊第491期：百年之后——最后的选举

这是“百年之后”系列。每周我们跳过一百年，想象当今天构建的技术沉淀下来后，生活会是什么样子。本周主题：最后一次投票。

2025年，爱尔兰的一场深度伪造显示总统候选人在投票前数日退出竞选。虚假的全国广播公司“确认”画面迅速传播，足以产生影响。

2024年英国大选中，超过一半的选民表示看到过关于候选人的误导信息，四分之一见过深度伪造。到2026年，技术瑕疵消失，任何有手机的人都能制作。

想象这意味着什么：一位政治家在视频中说了些什么，你却无法确认是否真实。检测工具总是落后一步，平台需要数小时才能撤下几分钟内传遍的内容。每次观看任何视频，你都会隐隐怀疑：这可能不是真的。

谎言并未消失，而是变得无法捕捉。当无法捕捉谎言时，也无法证明真相。整个地基崩塌了。

民主一直依赖一个假设：选民在获得充分信息后能做出明智决定。这从未完全成立——宣传古已有之，政治家历来撒谎。但过去存在一个基线：你可以事实核查演讲，录像是录像。如今这个基线消失了，而且我认为再也回不来了。

奇怪的是，人们并未因此愤怒，而是疲惫。世界经济论坛调查显示，四分之一的欧洲人宁愿让AI而非政治家来治理。没人喜欢算法，人们只是受够了。政治家说谎，深度伪造说谎，媒体说谎，你Facebook上的叔叔也说谎。至少算法每次给你同样的答案。

这种偏好只增不减。SSRN上的一篇学术论文已主张用AI治理取代民主——人类主导的民主“认知偏差、易受虚假信息影响、决策缓慢”，无法管理复杂社会。这个论点甚至不是支持AI，而是反对人类：你太脆弱，无法再做这件事了。一旦足够多人接受这一点，剩下的只是后勤问题。

我一直在思考奇点到底是什么。我们想象戏剧性的时刻——机器觉醒，警报拉响。但我认为它会更安静。某个星期二，人们筋疲力尽于分辨真假，他们投票——也许是最后一次——让别的东西来接管。没有人冲击什么，人们只是不再出现。

现在请跟随一条特定线索，因为这才是真正令人不安的部分。

制造深度伪造的工具和提供“修复”治理的公司是同一批。我不是模糊地说，而是特指。

OpenAI自己的报告承认，它破坏了“超过20次”利用其模型干预选举的行动。生成式AI制作的深度伪造在一年内激增900%。仅在2024年美国大选期间，OpenAI就拒绝了超过25万次生成政治人物深度伪造的请求。25万次尝试，仅在一个平台上。

这就是产品。

现在看转折：同一家公司——其工具正被用于攻击选举——通过“OpenAI for Government”与五角大楼签署了2亿美元合同。然后以1美元的价格将ChatGPT提供给所有联邦机构。Sam Altman直言：“确保AI服务于所有人的最佳方式之一，就是把它交到服务于国家的人手中。”这就是那个向你提供计算代币作为工资替代品的人。

Palantir涉入更深。Alex Karp——那个让你停止思考的哲学家——经营的公司赢得了100亿美元的陆军合同，运行Project Maven（五角大楼的AI监控和瞄准系统），联合国特别报告员将其技术与对加沙和西岸巴勒斯坦人的监控联系起来。经济学家Yanis Varoufakis等批评者称Karp的愿景为“技术法西斯逻辑”——不是因为修辞，而是因为治理模式：AI系统扩大国家能力，而公民约束滞后。

Anthropic和OpenAI正在竞争机密国防合同。OpenAI甚至将五角大楼的公告标题定为“我们与战争部的协议”。

所以看清完整弧线：这些公司制造生成深度伪造的工具。深度伪造摧毁公众对信息的信任。信任崩塌使人们放弃民主。同一批公司带着军事合同、监控基础设施和比烟草巨头花费更多的游说预算出现了，提供替代治理。

它们扼杀了唯一通过的责任法案，将责任上限设为100美元，告诉你不必学习编码所以无法审计输出，现在它们想要国家钥匙。

这不是阴谋论。本文每个链接都是新闻稿、政府文件、新闻报道或同行评议论文。全部公开。这也许是最糟糕的部分。

奇点来临时将是政治性的：一个文明决定自我治理太麻烦，将钥匙交给无法被投票罢免的东西。

没有人因为火车晚点而投票给独裁者。他们投票是因为筋疲力尽，而独裁者承诺让混乱消失。民主一直是关于选择与混乱共存——因为过程属于你，而干净的答案从来不是你的。

一百年后，这种选择可能看起来像我们眼中的手耕：人们在知道更好的方法之前所做的事。

最后一次选举不会被窃取或被黑客攻击。它会是足够多人不再关心，而某个无法被投票罢免的东西悄然坐上席位。