我們審查了78個選舉深度偽造。政治虛假資訊不是AI問題。

AI生成的虛假資訊曾是2024年美國總統選舉期間最受關注的問題之一。世界經濟論壇在2024年1月警告稱，虛假資訊和錯誤資訊是全球面臨的最嚴重短期風險，而AI正在放大被操縱和扭曲的資訊，可能破壞社會穩定。許多新聞頭條也在強調這一威脅。然而，在過去的分析中，我們曾預測AI不會導致虛假資訊災難。當Meta釋出其開源大語言模型LLaMA時，我們認為它不會引發虛假資訊浪潮。在後續文章中，我們指出虛假資訊的分發是影響行動的關鍵瓶頸，而生成式AI雖然降低了建立虛假資訊的成本，但並未降低分發成本。其他一些研究人員也提出了類似觀點。

哪種觀點更符合事實？幸運的是，2024年全球選舉中AI使用的證據可以幫助回答這一問題。許多新聞機構和研究專案已經整理了已知的AI生成文本和媒體案例及其影響。與其猜測AI的潛力，不如審視其實際影響。我們分析了WIRED AI選舉專案收集的所有78個AI用於選舉的案例，該專案追蹤了2024年全球選舉中使用AI建立政治內容的已知情況。在每個案例中，我們確定了AI的用途，並評估了不使用AI建立類似內容的成本。

我們發現：（1）半數AI使用不具有欺騙性；（2）使用AI建立的欺騙性內容無需AI也能低成本複製；（3）關注虛假資訊的需求而非供給，是診斷問題和確定干預措施的更有效方法。需要明確的是，AI生成的合成內容確實存在許多真正危險：建立未經同意的個人影像和兒童性虐待材料，以及助長“說謊者紅利”，使當權者能夠將真實但令人尷尬或有爭議的媒體內容歸咎於AI。這些都是重要挑戰，但本文關注的是另一個問題：政治虛假資訊。

改善資訊環境是一項艱鉅而持續的挑戰。人們認為AI使問題惡化是可以理解的，因為AI確實能夠製造虛假內容。但這並未從根本上改變政治虛假資訊的格局。矛盾的是，對AI的恐慌可能令人安慰，因為它將資訊環境的擔憂定位為一個獨立問題，並有其獨立解決方案。但資訊環境的改善依賴於結構和制度變革，而非限制AI生成內容。

2024年選舉中半數深度偽造並非欺騙性

我們分析了WIRED AI選舉專案中的所有78個AI使用例項。我們根據是否存在欺騙意圖進行分類。例如，如果AI被用來生成虛假媒體，描繪政治候選人說他們未說過的話，我們將其歸類為欺騙性。相反，如果聊天機器人對真實使用者查詢給出錯誤回答、深度偽造用於惡搞或諷刺、或候選人透明地使用AI改進競選材料（如將演講翻譯成他們不會說的語言），則歸類為非欺騙性。

令人驚訝的是，資料庫中78個案例中有39個沒有欺騙意圖。最常見的非欺騙性AI用途是競選活動。候選人或支持者使用AI進行競選時，大多數情況（22例中的19例）的明顯意圖是改進競選材料，而非用虛假資訊誤導選民。我們甚至發現一些深度偽造有助於改善資訊環境。在委內瑞拉，記者使用AI化身以避免在報道對政府不利的新聞時遭受政府報復。在美國，亞利桑那州的地方新聞機構Arizona Agenda利用深度偽造教育觀眾影片被操縱的容易程度。在加利福尼亞州，一位患有喉炎的候選人失聲，他透明地使用AI語音克隆以他的聲音朗讀打字資訊，與選民會面。

合理的人可能對在競選材料中使用AI是否合法或需要何種適當護欄存在分歧。但以非欺騙方式使用AI（例如作為改善選民外展的工具）比部署AI生成的假新聞來影響選民問題小得多。當然，並非所有非欺騙性AI生成的政治內容都是良性的。聊天機器人經常錯誤回答選舉相關問題。這不是出於欺騙意圖，而是聊天機器人侷限性的結果，如幻覺和缺乏事實性。不幸的是，這些侷限性未向使用者明確說明，導致過度依賴有缺陷的大語言模型。

製造欺騙性政治虛假資訊無需AI

對於39個具有欺騙意圖的案例（AI用於讓觀眾相信徹頭徹尾的虛假資訊），我們評估了不使用AI建立類似內容的成本——例如聘請Photoshop專家、影片編輯或配音演員。在每個案例中，不使用AI建立類似內容的成本都不高——不超過幾百美元。（我們甚至發現WIRED選舉資料庫中錯誤地將一個涉及僱傭舞臺演員的影片標記為AI生成。）

事實上，長期以來無需AI或其他花哨工具即可建立包含徹頭徹尾虛假資訊的媒體。一段影片使用舞臺演員虛假聲稱美國副總統兼民主黨總統候選人卡瑪拉·哈里斯捲入肇事逃逸事件。另一段影片將副總統的演講放慢，使其聽起來像在含糊其辭。一段經過編輯的印度反對派候選人拉胡爾·甘地的影片顯示他表示現任總理納倫德拉·莫迪將贏得選舉。在原影片中，甘地說他的對手不會贏得選舉，但透過跳躍剪輯去掉了“不”字。這類媒體內容被稱為“廉價偽造”（相對於AI生成的“深度偽造”）。

2024年美國選舉中出現了許多廉價偽造例項。新聞素養專案記錄了已知的選舉虛假資訊，發現廉價偽造的使用頻率是AI生成內容的七倍。在其他國家，廉價偽造也相當普遍。印度的事實核查機構審查的廉價偽造和傳統編輯媒體數量比深度偽造多一個數量級。在孟加拉國，廉價偽造的流行程度是深度偽造的20倍以上。

讓我們分析兩個例子，看看廉價偽造如何產生與備受媒體關注的深度偽造實質上相似的效果：唐納德·特朗普使用泰勒·斯威夫特深度偽造進行競選，以及一個模仿美國總統喬·拜登聲音的語音克隆機器人電話，在初選中要求選民不要投票。

特朗普在Truth Social上釋出了一張帖子，包含穿著“Swifties for Trump”T恤的泰勒·斯威夫特粉絲圖片。左上角是一張AI生成的女性穿著“Swifties for Trump”T恤的圖片，帶有“諷刺”標籤。右上角是特朗普支持者Jenna Piwowarczyk穿著同款T恤的真實照片。左下角是一張合成的泰勒·斯威夫特站在美國國旗前的圖片，標題為“泰勒希望你投票給唐納德·特朗普”。目前尚不清楚該圖片是由AI還是其他編輯軟體建立。右下角是一張Twitter帖子，包含兩張女性穿著“Swifties for Trump”T恤的圖片，一張AI生成，一張真實。

特朗普使用斯威夫特深度偽造暗示泰勒·斯威夫特支援他，並且斯威夫特粉絲大量參加他的集會。帖子釋出後，許多媒體將虛假資訊的傳播歸咎於AI。但無需AI即可輕鬆建立類似圖片。可以透過將支援特朗普的文字P到任何斯威夫特現有圖片上來建立描繪斯威夫特支援的圖片。同樣，獲取特朗普支持者穿著“Swifties for Trump”T恤的圖片可以透過在集會上分發免費T恤來實現——甚至可以有選擇地聯絡特朗普集會上的斯威夫特粉絲。事實上，特朗普分享的圖片中有兩張是同時是斯威夫特粉絲的特朗普支持者的真實照片。

另一起引發短暫恐慌的事件是AI克隆的喬·拜登總統聲音，要求人們不要在新罕布什爾州初選中投票。針對此類機器人電話的規定已存在多年。實際上，此次機器人電話的肇事者被聯邦通訊委員會罰款600萬美元。FCC設有舉報熱線報告類似攻擊，並經常執行相關規定，無論是否使用AI。由於該機器人電話使用了靜態錄音，無需AI也可以輕易製作——例如，僱傭聲音模仿者。該機器人電話的影響也不清楚：深度偽造的效果取決於接聽者是否相信美國總統親自打電話要求他們不要投票。

技術改進和試圖影響選舉的行動者專業知識是否會導致更有效的AI虛假資訊？我們認為不會。接下來，我們指出驅動虛假資訊需求的結構性原因並未因AI而改變。然後，我們回顧一下伴隨新工具釋出而對AI虛假資訊浪潮的預測歷史——這些預測並未成真。

虛假資訊的需求

虛假資訊可以透過供需力量來看待。供給來自希望透過點選賺錢的人、希望自己一方獲勝的黨派人士或希望進行影響力行動的國家行為者。迄今為止的干預幾乎完全試圖遏制虛假資訊供給，而需求未變。對AI的關注是這一趨勢的最新例子。由於AI將生成虛假資訊的成本降至接近零，將虛假資訊視為供給問題的分析師非常擔憂。但分析虛假資訊需求可以闡明虛假資訊如何傳播以及哪些干預措施可能有效。

關注虛假資訊需求告訴我們，只要人們持有某些世界觀，他們就會尋找並找到與這些觀點一致的資訊。根據一個人的世界觀，所討論的資訊往往是虛假資訊——或至少會被持不同世界觀的人視為虛假資訊。換句話說，成功的虛假資訊行動針對的是內部群體成員——那些已經認同資訊廣泛意圖的人。這些接收者對符合其世界觀的資訊可能懷疑較少，甚至願意明知是虛假資訊仍進行放大。在這種情況下，虛假資訊不需要複雜工具就能生效。另一方面，無論是否使用AI，都極難讓外部群體成員相信他們不同意的虛假資訊。

這樣看來，AI虛假資訊在其通常被描繪的“影響選民”角色上作用非常不同。增加虛假資訊供給不會顯著改變虛假資訊需求的動態，因為增加的供給在爭奪相同的眼球。此外，增加的虛假資訊供給很可能主要被一小部分已經同意並大量消費虛假資訊的黨派人士消費，而非說服更廣泛的公眾。這也解釋了為什麼廉價偽造（如無關事件的媒體、傳統影片編輯如跳躍剪輯、甚至是影片遊戲畫面）儘管質量低劣，卻能有效傳播虛假資訊：如果某人已經同意其資訊，就更容易說服他們。

我們對虛假資訊需求的分析可能最適用於兩極分化且競爭激烈的國家，其中主要政黨的選民外聯能力相似，因此選民的（錯誤）資訊需求已經飽和。儘管如此，據我們所知，在2024年舉行選舉的所有國家中，AI虛假資訊的影響遠小於擔憂。在印度，深度偽造更多用於惡意攻擊而非傳播虛假資訊。在印度尼西亞，AI的影響不是傳播虛假資訊，而是軟化當時候選人、現總統普拉博沃·蘇比安託的形象（一位被指控過去犯有人權侵犯的前將軍），使用AI生成的數字卡通頭像將他描繪得討人喜歡。

為何對AI虛假資訊的擔憂不斷重複？

2024年選舉週期並不是第一次普遍擔心AI深度偽造會導致政治虛假資訊氾濫。在2020年美國大選之前就曾表達過驚人的類似擔憂，儘管這些擔憂並未成真。新AI工具的釋出往往伴隨著它將釋放新一波虛假資訊的擔憂：2019年OpenAI釋出GPT-2系列模型時，扣留最強大模型權重的主要原因之一是其生成虛假資訊的潛力。2023年Meta公開發布LLaMA模型時，多家新聞機構報道了它可能引發AI虛假資訊洪流的擔憂。這些模型比2019年的GPT-2強大得多，但我們尚未看到使用LLaMA或其他大語言模型大規模說服選民證據。2024年，智慧手機上AI影像編輯工具的廣泛可用性引發了類似擔憂。

事實上，對使用新技術建立虛假資訊的擔憂可以追溯到一個多世紀前。19世紀末20世紀初，照片修飾技術問世，伴隨而來的是修飾過的照片被用來欺騙人們的擔憂。1912年，美國提出了一項法案，將未經被攝者同意而編輯照片定為刑事犯罪（該法案在參議院未透過）。

將政治虛假資訊視為技術（或AI）問題很有吸引力，因為這使解決方案看似易於處理。如果我們能夠撤銷有害技術，就能大幅改善資訊環境！然而，雖然改善資訊環境的目標值得稱讚，但指責技術並非解決之道。政治極化導致對媒體更不信任。人們更傾向於確認自己世界觀的訊息源，並對符合自己世界觀的內容不那麼懷疑。另一個主要因素是過去二十年新聞業收入的急劇下降——主要由從傳統媒體向社交媒體和線上廣告的轉變推動。但這更多是人們在尋求和消費資訊方式上結構性變化的結果，而非線上共享虛假資訊的特定威脅。

正如歷史教授薩姆·萊博維奇所指出的，改善資訊環境與鞏固民主及其制度的更大專案密不可分。沒有快速的技術修復或針對性監管能夠“解決”我們的資訊問題。我們應該拒絕簡單地將政治虛假資訊歸咎於AI的誘惑，並正視這一難題的嚴重性。