AI週刊第491期：百年之後——最後的選舉

這是“百年之後”系列。每週我們跳過一百年，想象當今天構建的技術沉澱下來後，生活會是什麼樣子。本週主題：最後一次投票。

2025年，愛爾蘭的一場深度偽造顯示總統候選人在投票前數日退出競選。虛假的全國廣播公司“確認”畫面迅速傳播，足以產生影響。

2024年英國大選中，超過一半的選民表示看到過關於候選人的誤導資訊，四分之一見過深度偽造。到2026年，技術瑕疵消失，任何有手機的人都能製作。

想象這意味著什麼：一位政治家在影片中說了些什麼，你卻無法確認是否真實。檢測工具總是落後一步，平臺需要數小時才能撤下幾分鐘內傳遍的內容。每次觀看任何影片，你都會隱隱懷疑：這可能不是真的。

謊言並未消失，而是變得無法捕捉。當無法捕捉謊言時，也無法證明真相。整個地基崩塌了。

民主一直依賴一個假設：選民在獲得充分資訊後能做出明智決定。這從未完全成立——宣傳古已有之，政治家歷來撒謊。但過去存在一個基線：你可以事實核查演講，錄影是錄影。如今這個基線消失了，而且我認為再也回不來了。

奇怪的是，人們並未因此憤怒，而是疲憊。世界經濟論壇調查顯示，四分之一的歐洲人寧願讓AI而非政治家來治理。沒人喜歡演算法，人們只是受夠了。政治家說謊，深度偽造說謊，媒體說謊，你Facebook上的叔叔也說謊。至少演算法每次給你同樣的答案。

這種偏好只增不減。SSRN上的一篇學術論文已主張用AI治理取代民主——人類主導的民主“認知偏差、易受虛假資訊影響、決策緩慢”，無法管理複雜社會。這個論點甚至不是支援AI，而是反對人類：你太脆弱，無法再做這件事了。一旦足夠多人接受這一點，剩下的只是後勤問題。

我一直在思考奇點到底是什麼。我們想象戲劇性的時刻——機器覺醒，警報拉響。但我認為它會更安靜。某個星期二，人們筋疲力盡於分辨真假，他們投票——也許是最後一次——讓別的東西來接管。沒有人衝擊什麼，人們只是不再出現。

現在請跟隨一條特定線索，因為這才是真正令人不安的部分。

製造深度偽造的工具和提供“修復”治理的公司是同一批。我不是模糊地說，而是特指。

OpenAI自己的報告承認，它破壞了“超過20次”利用其模型干預選舉的行動。生成式AI製作的深度偽造在一年內激增900%。僅在2024年美國大選期間，OpenAI就拒絕了超過25萬次生成政治人物深度偽造的請求。25萬次嘗試，僅在一個平臺上。

這就是產品。

現在看轉折：同一家公司——其工具正被用於攻擊選舉——透過“OpenAI for Government”與五角大樓簽署了2億美元合同。然後以1美元的價格將ChatGPT提供給所有聯邦機構。Sam Altman直言：“確保AI服務於所有人的最佳方式之一，就是把它交到服務於國家的人手中。”這就是那個向你提供計算代幣作為工資替代品的人。

Palantir涉入更深。Alex Karp——那個讓你停止思考的哲學家——經營的公司贏得了100億美元的陸軍合同，執行Project Maven（五角大樓的AI監控和瞄準系統），聯合國特別報告員將其技術與對加沙和西岸巴勒斯坦人的監控聯絡起來。經濟學家Yanis Varoufakis等批評者稱Karp的願景為“技術法西斯邏輯”——不是因為修辭，而是因為治理模式：AI系統擴大國家能力，而公民約束滯後。

Anthropic和OpenAI正在競爭機密國防合同。OpenAI甚至將五角大樓的公告標題定為“我們與戰爭部的協議”。

所以看清完整弧線：這些公司製造生成深度偽造的工具。深度偽造摧毀公眾對資訊的信任。信任崩塌使人們放棄民主。同一批公司帶著軍事合同、監控基礎設施和比菸草巨頭花費更多的遊說預算出現了，提供替代治理。

它們扼殺了唯一透過的責任法案，將責任上限設為100美元，告訴你不必學習編碼所以無法審計輸出，現在它們想要國家鑰匙。

這不是陰謀論。本文每個連結都是新聞稿、政府檔案、新聞報道或同行評議論文。全部公開。這也許是最糟糕的部分。

奇點來臨時將是政治性的：一個文明決定自我治理太麻煩，將鑰匙交給無法被投票罷免的東西。

沒有人因為火車晚點而投票給獨裁者。他們投票是因為筋疲力盡，而獨裁者承諾讓混亂消失。民主一直是關於選擇與混亂共存——因為過程屬於你，而乾淨的答案從來不是你的。

一百年後，這種選擇可能看起來像我們眼中的手耕：人們在知道更好的方法之前所做的事。

最後一次選舉不會被竊取或被駭客攻擊。它會是足夠多人不再關心，而某個無法被投票罷免的東西悄然坐上席位。