BBC調查發現：海外造假者利用AI視頻散佈英國衰落敍事

英國廣播公司（BBC）的一項調查發現，一批海外造假者正利用人工智能生成的視頻，在社交媒體上傳播關於英國衰落的虛假敍事，其中夾雜着強烈的反移民言論。這些視頻在Facebook和Instagram上獲得了數百萬次觀看，但運營這些賬户的人往往遠在數千英里之外。

調查顯示，這些賬户的主人分佈在斯里蘭卡、美國、歐洲、越南、馬爾代夫等地，甚至與伊朗和阿聯酋有關聯。他們通過AI生成看似真實的場景，例如將英國議會描繪成被身着傳統阿拉伯服飾的男子佔領並實施伊斯蘭教法，或者展示街頭遍佈垃圾、女性穿着罩袍的畫面，營造出一種英國正在全面伊斯蘭化的假象。

其中一些賬號此前曾發佈過支持“讓美國再次偉大”（MAGA）運動的內容，如今則轉向利用AI炮製反移民內容以獲取更多關注。BBC採訪到的兩名運營者聲稱，他們的目的是“告知人們和選民，如果當前的社會文化趨勢持續下去，未來幾十年可能發生什麼”。但他們否認是出於金錢動機，並表示未將賬户貨幣化。

然而，調查也發現，部分賬户確實通過Instagram的變現計劃獲利。一名運營者坦言：“我發帖主要是為了引起反應，從而增加粉絲和收入。”另一些人則承認與其他賬户協調合作，互相推廣內容以獲取最大關注度。

倫敦市長薩迪克·汗爵士指出，這些AI生成的謊言對倫敦的聲譽造成了實際損害，嚇跑了遊客、留學生和投資者。他呼籲社交媒體公司修改算法，不獎勵製造分裂的內容，並明確標註AI生成內容。Meta公司回應稱，他們嚴肅對待“協調性虛假行為”，並設有專門團隊進行識別和打擊。

劍橋大學社會心理學家桑德爾·範德林登教授警告説，這類AI虛假賬户代表了“影響力行動的新演變”。他指出，公眾識別AI虛假內容的能力並不強，準確率僅約55%，而且人們往往會高估自己的辨別能力。貝爾法斯特女王大學的伊馮·麥克德莫特·里斯教授補充説，人們看到AI內容越多，就越容易懷疑真實內容，導致“事實與虛構難以分辨”。

更令人擔憂的是，一些評論區的網友似乎已完全被這些內容説服。在一條AI生成的抗議視頻下，有網友留言“永不後退，做你必須做的”。甚至有人明知內容可能是AI生成的，仍表示：“很可能是AI，但事實是他説的一切都是對的。”這凸顯出AI虛假信息在迎合特定世界觀時的強大影響力。