Facebook對一個月前標記的AI極右翼影響力運動未採取行動

Facebook旗下平台近期被曝光存在一個名為“Life in Britain”的頁面，該頁面發佈了大量利用人工智能生成的、充滿政治分裂性的視頻。這些視頻內容涉及移民、農業政策等敏感話題，總共獲得了數百萬次觀看。令人擔憂的是，雖然《獨立報》在一個月前就向Facebook舉報了該頁面，但截至目前Facebook仍未採取任何行動，也沒有給視頻添加AI生成內容的標籤。

根據Facebook的透明信息顯示，該頁面的管理員位於斯里蘭卡，距離英國超過5000英里。視頻檢測公司Resemble AI分析後確認，這些視頻有97%的可能性是由AI生成的，存在音頻不自然和畫面扭曲等痕跡。Resemble AI創始人Zohaib Ahmed指出，這類似於外國實體進行的社交工程攻擊，利用AI生成內容並通過社交媒體算法迅速傳播。

倫敦國王學院戰爭研究系訪問高級研究員Lukasz Olejnik博士警告，AI生成的影響力宣傳內容正在上升，會製造虛假視覺證據，難以快速核實，並可能削弱公眾對機構、新聞和選舉的信任。他還提到，英國面臨的風險不僅是單一虛假視頻的影響，而是持續暴露可能導致信任體系的全面瓦解。

事實上，這類問題已經產生實際後果。去年提交給英國下議院內政委員會的研究顯示，AI生成的將穆斯林描繪成威脅的圖片加劇了2024年夏季的南港騷亂。倫敦政治經濟學院的研究發現，包含種族主義陰謀論視覺內容的社交媒體帖子比其他帖子被放大傳播的程度高出30%。對此，倫敦市長薩迪克·汗上月承諾投入700萬英鎊，以應對首都面臨的“前所未有的謊言和仇恨攻擊”。

Meta的獨立監督委員會今年早些時候建議公司更主動地為AI生成內容添加標籤，並投資更強的檢測工具。英國科學、創新與技術部表示，平台有法律責任處理違法內容。Facebook自稱有明確政策禁止仇恨言論和虛假信息，但在本次事件中，公司僅僅表示正在調查，沒有給出時間表或承諾採取行動。此前，BBC威爾士發現一些越南的“內容農場”利用深度偽造散佈關於英國政治的虛假敍事後，Facebook已經移除了相關頁面。目前，“Life in Britain”頁面的所有者尚未回應評論請求。