AI週刊第491期：百年之後：最後一次選舉

從2025年愛爾蘭的深度偽造事件説起：一段假視頻顯示總統候選人退選，並在大選前迅速傳播。到2024年英國大選，超過一半的選民看到過關於候選人的誤導信息，四分之一看到過深度偽造。到2026年，技術漏洞消失，任何人都能用手機制作深度偽造。這意味着，政治人物在視頻中的言論真假難辨。檢測工具總是慢一步，平台撤下虛假內容需要數小時，而傳播只需幾分鐘。每一次觀看視頻，你都可能懷疑其真實性。謊言沒有消失，而是變得無法捕捉。當謊言無法被揭穿，真相也無法被證明。整個基礎崩塌了。

民主一直建立在選民能夠基於可靠信息做出明智決策的假設上。儘管這一假設從未完全成立——宣傳古已有之，政客一直撒謊——但存在一個底線：你可以核實演講內容，視頻就是證據。如今這個底線消失了，而且似乎無法恢復。

奇怪的是，人們並不憤怒，而是疲憊。世界經濟論壇的一項調查顯示，四分之一的歐洲人更希望由AI而非政客來治理國家。沒人熱愛算法，人們只是受夠了。政客撒謊，深度偽造撒謊，媒體撒謊，你叔叔在Facebook上也撒謊。算法至少能給出兩次相同的答案。這種偏好只會增強。SSRN上的一篇學術論文已經主張用AI治理取代民主——因為人類主導的民主充滿“認知偏見、易受虛假信息影響和決策緩慢”，無法管理複雜社會。這個論點甚至不是支持AI，而是反對人類：你太有缺陷了，無法再承擔治理責任。一旦足夠多的人接受這一點，剩下的只是後勤問題。

我一直在思考奇點究竟是什麼。我們想象一個戲劇性的時刻——機器覺醒，警報響起。我認為它會安靜得多。某個星期二，人們因試圖辨別真假而筋疲力盡，然後投票——也許是最後一次——讓別的東西來接管。沒有人暴動，人們只是不再出現。

現在請跟隨一條具體的線索，因為這才是真正讓人不安的部分。製造深度偽造的工具和提供“修復”治理的公司是同一批。我並非含糊其辭，而是具體指：OpenAI自己的報告承認，它打斷了“20多起”利用其模型干預選舉的行動。使用生成式AI製作的深度偽造在一年內激增900%。僅在2024年美國大選期間，OpenAI就拒絕了超過25萬次生成政治人物深度偽造的請求。同一家公司——其工具被用於攻擊選舉——通過“OpenAI for Government”與五角大樓簽訂了2億美元的合同。然後以1美元的價格向所有聯邦機構提供ChatGPT。薩姆·奧爾特曼公開表示：“確保AI為每個人服務的最佳方式之一是將其交到為國服務的人手中。”這個人還向你提供計算代幣，作為你失業工資的替代品。

Palantir走得更深。亞歷克斯·卡普——那位告訴你停止思考的哲學家——經營的公司贏得了100億美元的陸軍合同，運行Project Maven（五角大樓的AI監視和瞄準系統），聯合國特別報告員將其技術與加沙和約旦河西岸的巴勒斯坦監視聯繫起來。包括經濟學家雅尼斯·瓦魯法基斯在內的批評者將卡普的願景稱為“技術法西斯邏輯”——不是因為修辭，而是因為治理模式：AI系統擴大國家能力，而公民約束滯後。Anthropic和OpenAI正在競爭保密國防合同。OpenAI甚至將其五角大樓公告命名為“與戰爭部的協議”。

所以追蹤完整的弧線：這些公司製造了生成深度偽造的工具。深度偽造摧毀了公眾對信息的信任。信任崩潰使人們放棄民主。而同一批公司帶着軍事合同、監控基礎設施和比大煙草公司曾花費的遊説預算大得多的資金出現，主動提出接管治理。他們扼殺了唯一通過的責任法案，將責任上限限制在100美元，告訴你不要編碼，這樣你就無法審計輸出。現在他們想要國家的鑰匙。

這不是陰謀。這篇文章中的每一個鏈接都是新聞稿、政府文件、新聞報道或同行評審論文。全都是公開信息。這也許是最糟糕的部分。

當奇點到來時，它將是一場政治事件。一個文明決定自我治理太麻煩，於是將鑰匙交給一個無法被投票罷免的東西。沒有人因為火車晚點而投票給獨裁者。他們投票給他是因為筋疲力盡，而他承諾讓混亂消失。民主一直是關於選擇與混亂共存——因為過程屬於你，而乾淨的答案從來不是你的。百年之後，這個選擇可能看起來就像我們現在看待手工耕作一樣——人們在懂得更好的方法之前所做的事情。

最後一次選舉不會被竊取或入侵。它將是一場有足夠多人不再關心的選舉。而某個無法被投票罷免的東西將悄然坐上那把椅子。