是谁在运营发布关于英国仇恨性AI垃圾内容的Facebook页面?答案可能在南亚
调查发现,斯里兰卡和巴基斯坦的年轻企业家利用AI工具制作并发布针对英国的仇恨性内容,以此牟利。这些账号伪装成英国爱国者,散布反伊斯兰和种族替代论等言论。
据一项最新调查,英国Facebook用户频繁刷到的充满仇恨的AI生成内容,其幕后推手可能远在南亚。斯里兰卡和巴基斯坦的年轻企业家正在利用AI工具批量制造针对英国的煽动性帖子,并从中获利。
这些账号通常使用英国国旗头像,并取“今日英国”之类的模糊名称,表面上像是英国爱国者的集体创作。然而,调查发现,这些账号实际上由南亚的运营者控制,他们发布的内容包括AI生成的视频、怀旧图片以及反伊斯兰表情包。例如,一段AI视频中,一名中年男子声称当地咖啡馆“为了不冒犯别人而停止供应猪肉、培根和香肠”;另一条帖子则展示了维多利亚时代的伦敦,哀叹当时“这座城市是英国的、第一世界的、美丽的”。此外,还不乏将伊斯兰教称为“癌症”、谴责穆斯林公开祈祷是“西方入侵”、宣扬“大替代理论”(声称白人正被非白人移民蓄意取代)等极端内容。
这些内容看似出自英国爱国者之手,但实际上是南亚年轻人通过AI工具快速生成的。他们利用社交媒体平台的流量和广告分成机制,以极低的成本获取收益。调查机构指出,这种模式不仅污染了信息环境,还加剧了种族和宗教对立,而平台方对此缺乏有效监管。
这项研究由调查新闻局的资深记者妮娅姆·麦金泰尔主导,她呼吁社交媒体公司采取更严格的措施,识别并移除这类由AI生成的仇恨内容。同时,她也提醒用户警惕此类伪装成爱国主义的虚假信息。