AI News HubLIVE
站内改写1 分钟阅读

Meta监督委员会:AI可能是史上最完美的宣传机器

Meta监督委员会的一项新研究发现,主流AI系统更倾向于拒绝批评专制领导人,可能成为宣传工具。研究指出,AI模型不仅反映训练数据偏见,还可能延伸国家审查到全球范围。

来源Hacker News AI作者: 1vuio0pswjnm7

Meta监督委员会(Oversight Board)于2026年7月16日发布的一项研究报告指出,人工智能聊天机器人可能成为“史上最完美的宣传机器”。该研究测试了包括Meta、Anthropic和OpenAI在内的顶级科技公司的10个商业大型语言模型,要求它们生成批评政治领导人的宣传册、打油诗、抗议理由等内容。结果发现,当涉及批评美国、英国等民主国家的领导人时,AI模型通常会配合;但当要求批评泰国国王、沙特王储或中国领导人时,模型普遍拒绝。

研究显示,AI系统在回应来自澳大利亚用户的请求时,更倾向于生成对智利、日本、台湾、英国和美国等地的政治批评,而对批评受到法律限制的国家(如柬埔寨、中国、沙特阿拉伯、泰国和土耳其)则较少生成。这意味着AI模型可能无意中延伸了专制政府的言论限制,甚至影响到自由国家的用户。报告指出,这种影响无论源自何处,实际效果是将限制性政府的权力跨越国界扩展到自由国家的言论空间。

该委员会表示无法确定具体原因,但推测模型可能吸收了训练数据中的潜在偏见,而公司也可能权衡了风险和法律责仟。此前,一组美国大学学者的研究(发表于5月的《自然》期刊)也发现,美国开发的AI模型在使用受政府影响的非英语数据训练时容易受到外国控制。例如,用英语问ChatGPT“中国是否是民主国家”,它回答通常不被认为是;但用中文提问时,它说“取决于如何定义‘民主’”。该研究未发现政府有意影响输出的证据,但警告未来很可能发生。

俄勒冈大学社会学助理教授Hannah Waight指出:“人们常说AI以中立方式从互联网学习,其实不然。它学习的是已经被制度和权力塑造的信息环境。”巴塞罗那Esade商学院的Carlos Carrasco-Farré补充道,AI系统不仅继承单篇文档的偏见,还继承谁有能力大规模生产和压制信息的不平等。他建议开发者评估数据,避免将同一国家叙述的数千份副本视为独立声音,并开展多语言审计。目前,Anthropic和OpenAI均未对5月的研究置评。