Facebook对一个月前标记的AI极右翼影响力运动未采取行动

Facebook旗下平台近期被曝光存在一个名为“Life in Britain”的页面，该页面发布了大量利用人工智能生成的、充满政治分裂性的视频。这些视频内容涉及移民、农业政策等敏感话题，总共获得了数百万次观看。令人担忧的是，虽然《独立报》在一个月前就向Facebook举报了该页面，但截至目前Facebook仍未采取任何行动，也没有给视频添加AI生成内容的标签。

根据Facebook的透明信息显示，该页面的管理员位于斯里兰卡，距离英国超过5000英里。视频检测公司Resemble AI分析后确认，这些视频有97%的可能性是由AI生成的，存在音频不自然和画面扭曲等痕迹。Resemble AI创始人Zohaib Ahmed指出，这类似于外国实体进行的社交工程攻击，利用AI生成内容并通过社交媒体算法迅速传播。

伦敦国王学院战争研究系访问高级研究员Lukasz Olejnik博士警告，AI生成的影响力宣传内容正在上升，会制造虚假视觉证据，难以快速核实，并可能削弱公众对机构、新闻和选举的信任。他还提到，英国面临的风险不仅是单一虚假视频的影响，而是持续暴露可能导致信任体系的全面瓦解。

事实上，这类问题已经产生实际后果。去年提交给英国下议院内政委员会的研究显示，AI生成的将穆斯林描绘成威胁的图片加剧了2024年夏季的南港骚乱。伦敦政治经济学院的研究发现，包含种族主义阴谋论视觉内容的社交媒体帖子比其他帖子被放大传播的程度高出30%。对此，伦敦市长萨迪克·汗上月承诺投入700万英镑，以应对首都面临的“前所未有的谎言和仇恨攻击”。

Meta的独立监督委员会今年早些时候建议公司更主动地为AI生成内容添加标签，并投资更强的检测工具。英国科学、创新与技术部表示，平台有法律责任处理违法内容。Facebook自称有明确政策禁止仇恨言论和虚假信息，但在本次事件中，公司仅仅表示正在调查，没有给出时间表或承诺采取行动。此前，BBC威尔士发现一些越南的“内容农场”利用深度伪造散布关于英国政治的虚假叙事后，Facebook已经移除了相关页面。目前，“Life in Britain”页面的所有者尚未回应评论请求。