我們審查了78個選舉深度偽造。政治虛假信息不是AI問題。

AI生成的虛假信息曾是2024年美國總統選舉期間最受關注的問題之一。世界經濟論壇在2024年1月警告稱，虛假信息和錯誤信息是全球面臨的最嚴重短期風險，而AI正在放大被操縱和扭曲的信息，可能破壞社會穩定。許多新聞頭條也在強調這一威脅。然而，在過去的分析中，我們曾預測AI不會導致虛假信息災難。當Meta發佈其開源大語言模型LLaMA時，我們認為它不會引發虛假信息浪潮。在後續文章中，我們指出虛假信息的分發是影響行動的關鍵瓶頸，而生成式AI雖然降低了創建虛假信息的成本，但並未降低分發成本。其他一些研究人員也提出了類似觀點。

哪種觀點更符合事實？幸運的是，2024年全球選舉中AI使用的證據可以幫助回答這一問題。許多新聞機構和研究項目已經整理了已知的AI生成文本和媒體案例及其影響。與其猜測AI的潛力，不如審視其實際影響。我們分析了WIRED AI選舉項目收集的所有78個AI用於選舉的案例，該項目追蹤了2024年全球選舉中使用AI創建政治內容的已知情況。在每個案例中，我們確定了AI的用途，並評估了不使用AI創建類似內容的成本。

我們發現：（1）半數AI使用不具有欺騙性；（2）使用AI創建的欺騙性內容無需AI也能低成本複製；（3）關注虛假信息的需求而非供給，是診斷問題和確定干預措施的更有效方法。需要明確的是，AI生成的合成內容確實存在許多真正危險：創建未經同意的個人圖像和兒童性虐待材料，以及助長“説謊者紅利”，使當權者能夠將真實但令人尷尬或有爭議的媒體內容歸咎於AI。這些都是重要挑戰，但本文關注的是另一個問題：政治虛假信息。

改善信息環境是一項艱鉅而持續的挑戰。人們認為AI使問題惡化是可以理解的，因為AI確實能夠製造虛假內容。但這並未從根本上改變政治虛假信息的格局。矛盾的是，對AI的恐慌可能令人安慰，因為它將信息環境的擔憂定位為一個獨立問題，並有其獨立解決方案。但信息環境的改善依賴於結構和制度變革，而非限制AI生成內容。

2024年選舉中半數深度偽造並非欺騙性

我們分析了WIRED AI選舉項目中的所有78個AI使用實例。我們根據是否存在欺騙意圖進行分類。例如，如果AI被用來生成虛假媒體，描繪政治候選人説他們未説過的話，我們將其歸類為欺騙性。相反，如果聊天機器人對真實用户查詢給出錯誤回答、深度偽造用於惡搞或諷刺、或候選人透明地使用AI改進競選材料（如將演講翻譯成他們不會説的語言），則歸類為非欺騙性。

令人驚訝的是，數據庫中78個案例中有39個沒有欺騙意圖。最常見的非欺騙性AI用途是競選活動。候選人或支持者使用AI進行競選時，大多數情況（22例中的19例）的明顯意圖是改進競選材料，而非用虛假信息誤導選民。我們甚至發現一些深度偽造有助於改善信息環境。在委內瑞拉，記者使用AI化身以避免在報道對政府不利的新聞時遭受政府報復。在美國，亞利桑那州的地方新聞機構Arizona Agenda利用深度偽造教育觀眾視頻被操縱的容易程度。在加利福尼亞州，一位患有喉炎的候選人失聲，他透明地使用AI語音克隆以他的聲音朗讀打字信息，與選民會面。

合理的人可能對在競選材料中使用AI是否合法或需要何種適當護欄存在分歧。但以非欺騙方式使用AI（例如作為改善選民外展的工具）比部署AI生成的假新聞來影響選民問題小得多。當然，並非所有非欺騙性AI生成的政治內容都是良性的。聊天機器人經常錯誤回答選舉相關問題。這不是出於欺騙意圖，而是聊天機器人侷限性的結果，如幻覺和缺乏事實性。不幸的是，這些侷限性未向用户明確説明，導致過度依賴有缺陷的大語言模型。

製造欺騙性政治虛假信息無需AI

對於39個具有欺騙意圖的案例（AI用於讓觀眾相信徹頭徹尾的虛假信息），我們評估了不使用AI創建類似內容的成本——例如聘請Photoshop專家、視頻編輯或配音演員。在每個案例中，不使用AI創建類似內容的成本都不高——不超過幾百美元。（我們甚至發現WIRED選舉數據庫中錯誤地將一個涉及僱傭舞台演員的視頻標記為AI生成。）

事實上，長期以來無需AI或其他花哨工具即可創建包含徹頭徹尾虛假信息的媒體。一段視頻使用舞台演員虛假聲稱美國副總統兼民主黨總統候選人卡瑪拉·哈里斯捲入肇事逃逸事件。另一段視頻將副總統的演講放慢，使其聽起來像在含糊其辭。一段經過編輯的印度反對派候選人拉胡爾·甘地的視頻顯示他表示現任總理納倫德拉·莫迪將贏得選舉。在原視頻中，甘地説他的對手不會贏得選舉，但通過跳躍剪輯去掉了“不”字。這類媒體內容被稱為“廉價偽造”（相對於AI生成的“深度偽造”）。

2024年美國選舉中出現了許多廉價偽造實例。新聞素養項目記錄了已知的選舉虛假信息，發現廉價偽造的使用頻率是AI生成內容的七倍。在其他國家，廉價偽造也相當普遍。印度的事實核查機構審查的廉價偽造和傳統編輯媒體數量比深度偽造多一個數量級。在孟加拉國，廉價偽造的流行程度是深度偽造的20倍以上。

讓我們分析兩個例子，看看廉價偽造如何產生與備受媒體關注的深度偽造實質上相似的效果：唐納德·特朗普使用泰勒·斯威夫特深度偽造進行競選，以及一個模仿美國總統喬·拜登聲音的語音克隆機器人電話，在初選中要求選民不要投票。

特朗普在Truth Social上發佈了一張帖子，包含穿着“Swifties for Trump”T恤的泰勒·斯威夫特粉絲圖片。左上角是一張AI生成的女性穿着“Swifties for Trump”T恤的圖片，帶有“諷刺”標籤。右上角是特朗普支持者Jenna Piwowarczyk穿着同款T恤的真實照片。左下角是一張合成的泰勒·斯威夫特站在美國國旗前的圖片，標題為“泰勒希望你投票給唐納德·特朗普”。目前尚不清楚該圖片是由AI還是其他編輯軟件創建。右下角是一張Twitter帖子，包含兩張女性穿着“Swifties for Trump”T恤的圖片，一張AI生成，一張真實。

特朗普使用斯威夫特深度偽造暗示泰勒·斯威夫特支持他，並且斯威夫特粉絲大量參加他的集會。帖子發佈後，許多媒體將虛假信息的傳播歸咎於AI。但無需AI即可輕鬆創建類似圖片。可以通過將支持特朗普的文字P到任何斯威夫特現有圖片上來創建描繪斯威夫特支持的圖片。同樣，獲取特朗普支持者穿着“Swifties for Trump”T恤的圖片可以通過在集會上分發免費T恤來實現——甚至可以有選擇地聯繫特朗普集會上的斯威夫特粉絲。事實上，特朗普分享的圖片中有兩張是同時是斯威夫特粉絲的特朗普支持者的真實照片。

另一起引發短暫恐慌的事件是AI克隆的喬·拜登總統聲音，要求人們不要在新罕布什爾州初選中投票。針對此類機器人電話的規定已存在多年。實際上，此次機器人電話的肇事者被聯邦通信委員會罰款600萬美元。FCC設有舉報熱線報告類似攻擊，並經常執行相關規定，無論是否使用AI。由於該機器人電話使用了靜態錄音，無需AI也可以輕易製作——例如，僱傭聲音模仿者。該機器人電話的影響也不清楚：深度偽造的效果取決於接聽者是否相信美國總統親自打電話要求他們不要投票。

技術改進和試圖影響選舉的行動者專業知識是否會導致更有效的AI虛假信息？我們認為不會。接下來，我們指出驅動虛假信息需求的結構性原因並未因AI而改變。然後，我們回顧一下伴隨新工具發佈而對AI虛假信息浪潮的預測歷史——這些預測並未成真。

虛假信息的需求

虛假信息可以通過供需力量來看待。供給來自希望通過點擊賺錢的人、希望自己一方獲勝的黨派人士或希望進行影響力行動的國家行為者。迄今為止的干預幾乎完全試圖遏制虛假信息供給，而需求未變。對AI的關注是這一趨勢的最新例子。由於AI將生成虛假信息的成本降至接近零，將虛假信息視為供給問題的分析師非常擔憂。但分析虛假信息需求可以闡明虛假信息如何傳播以及哪些干預措施可能有效。

關注虛假信息需求告訴我們，只要人們持有某些世界觀，他們就會尋找並找到與這些觀點一致的信息。根據一個人的世界觀，所討論的信息往往是虛假信息——或至少會被持不同世界觀的人視為虛假信息。換句話説，成功的虛假信息行動針對的是內部羣體成員——那些已經認同信息廣泛意圖的人。這些接收者對符合其世界觀的信息可能懷疑較少，甚至願意明知是虛假信息仍進行放大。在這種情況下，虛假信息不需要複雜工具就能生效。另一方面，無論是否使用AI，都極難讓外部羣體成員相信他們不同意的虛假信息。

這樣看來，AI虛假信息在其通常被描繪的“影響選民”角色上作用非常不同。增加虛假信息供給不會顯著改變虛假信息需求的動態，因為增加的供給在爭奪相同的眼球。此外，增加的虛假信息供給很可能主要被一小部分已經同意並大量消費虛假信息的黨派人士消費，而非説服更廣泛的公眾。這也解釋了為什麼廉價偽造（如無關事件的媒體、傳統視頻編輯如跳躍剪輯、甚至是視頻遊戲畫面）儘管質量低劣，卻能有效傳播虛假信息：如果某人已經同意其信息，就更容易説服他們。

我們對虛假信息需求的分析可能最適用於兩極分化且競爭激烈的國家，其中主要政黨的選民外聯能力相似，因此選民的（錯誤）信息需求已經飽和。儘管如此，據我們所知，在2024年舉行選舉的所有國家中，AI虛假信息的影響遠小於擔憂。在印度，深度偽造更多用於惡意攻擊而非傳播虛假信息。在印度尼西亞，AI的影響不是傳播虛假信息，而是軟化當時候選人、現總統普拉博沃·蘇比安託的形象（一位被指控過去犯有人權侵犯的前將軍），使用AI生成的數字卡通頭像將他描繪得討人喜歡。

為何對AI虛假信息的擔憂不斷重複？

2024年選舉週期並不是第一次普遍擔心AI深度偽造會導致政治虛假信息氾濫。在2020年美國大選之前就曾表達過驚人的類似擔憂，儘管這些擔憂並未成真。新AI工具的發佈往往伴隨着它將釋放新一波虛假信息的擔憂：2019年OpenAI發佈GPT-2系列模型時，扣留最強大模型權重的主要原因之一是其生成虛假信息的潛力。2023年Meta公開發布LLaMA模型時，多家新聞機構報道了它可能引發AI虛假信息洪流的擔憂。這些模型比2019年的GPT-2強大得多，但我們尚未看到使用LLaMA或其他大語言模型大規模説服選民證據。2024年，智能手機上AI圖像編輯工具的廣泛可用性引發了類似擔憂。

事實上，對使用新技術創建虛假信息的擔憂可以追溯到一個多世紀前。19世紀末20世紀初，照片修飾技術問世，伴隨而來的是修飾過的照片被用來欺騙人們的擔憂。1912年，美國提出了一項法案，將未經被攝者同意而編輯照片定為刑事犯罪（該法案在參議院未通過）。

將政治虛假信息視為技術（或AI）問題很有吸引力，因為這使解決方案看似易於處理。如果我們能夠撤銷有害技術，就能大幅改善信息環境！然而，雖然改善信息環境的目標值得稱讚，但指責技術並非解決之道。政治極化導致對媒體更不信任。人們更傾向於確認自己世界觀的消息源，並對符合自己世界觀的內容不那麼懷疑。另一個主要因素是過去二十年新聞業收入的急劇下降——主要由從傳統媒體向社交媒體和在線廣告的轉變推動。但這更多是人們在尋求和消費信息方式上結構性變化的結果，而非在線共享虛假信息的特定威脅。

正如歷史教授薩姆·萊博維奇所指出的，改善信息環境與鞏固民主及其制度的更大項目密不可分。沒有快速的技術修復或針對性監管能夠“解決”我們的信息問題。我們應該拒絕簡單地將政治虛假信息歸咎於AI的誘惑，並正視這一難題的嚴重性。