是誰在運營釋出關於英國仇恨性AI垃圾內容的Facebook頁面?答案可能在南亞
調查發現,斯里蘭卡和巴基斯坦的年輕企業家利用AI工具製作併發布針對英國的仇恨性內容,以此牟利。這些賬號偽裝成英國愛國者,散佈反伊斯蘭和種族替代論等言論。
據一項最新調查,英國Facebook使用者頻繁刷到的充滿仇恨的AI生成內容,其幕後推手可能遠在南亞。斯里蘭卡和巴基斯坦的年輕企業家正在利用AI工具批次製造針對英國的煽動性帖子,並從中獲利。
這些賬號通常使用英國國旗頭像,並取“今日英國”之類的模糊名稱,表面上像是英國愛國者的集體創作。然而,調查發現,這些賬號實際上由南亞的運營者控制,他們釋出的內容包括AI生成的影片、懷舊圖片以及反伊斯蘭表情包。例如,一段AI影片中,一名中年男子聲稱當地咖啡館“為了不冒犯別人而停止供應豬肉、培根和香腸”;另一條帖子則展示了維多利亞時代的倫敦,哀嘆當時“這座城市是英國的、第一世界的、美麗的”。此外,還不乏將伊斯蘭教稱為“癌症”、譴責穆斯林公開祈禱是“西方入侵”、宣揚“大替代理論”(聲稱白人正被非白人移民蓄意取代)等極端內容。
這些內容看似出自英國愛國者之手,但實際上是南亞年輕人透過AI工具快速生成的。他們利用社交媒體平臺的流量和廣告分成機制,以極低的成本獲取收益。調查機構指出,這種模式不僅汙染了資訊環境,還加劇了種族和宗教對立,而平臺方對此缺乏有效監管。
這項研究由調查新聞局的資深記者妮婭姆·麥金泰爾主導,她呼籲社交媒體公司採取更嚴格的措施,識別並移除這類由AI生成的仇恨內容。同時,她也提醒使用者警惕此類偽裝成愛國主義的虛假資訊。