跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

通过人机协作构建可扩展且文化特异的刻板印象数据集

文章摘要

本研究提出一种成本高效的人机协作注释框架,用于构建多语言刻板印象数据集,并应用于西班牙语构建EspanStereo数据集,涵盖多个西语国家的文化特定偏见。评估显示LLMs在不同国家的刻板印象行为存在显著差异,强调需要更文化扎根的评估方法。

来源arXiv Computational Linguistics作者: Weicheng Ma, John Guerrerio, Soroush Vosoughi
通过人机协作构建可扩展且文化特异的刻板印象数据集
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

大型语言模型(LLM)中的刻板印象研究长期以来一直集中于英语语境,这主要是因为其他语言的数据集严重匮乏,而且在代表性不足的文化中进行人工注释成本高昂。为了填补这一空白,来自Weicheng Ma、John Guerrerio等研究人员提出了一种成本高效的人机协作注释框架,并利用该框架构建了EspanStereo——一个覆盖欧洲和拉丁美洲多个西班牙语国家的刻板印象数据集。该数据集不仅收录了先前文献中已有记载的刻板印象,还包含了英语中心资源所缺失的文化特定偏见。

该框架的核心是让LLM生成候选刻板印象,然后由熟悉当地文化的注释者进行验证。这种方法能够有效识别细微的、地区特有的偏见,同时大幅降低人工注释成本。研究团队使用EspanStereo对支持西班牙语的LLM进行了评估,结果发现模型在不同国家之间表现出显著的刻板印象行为差异,这强烈表明需要采用更文化扎根的评估方法。

该研究发表于EMNLP 2025主会,论文arXiv编号为2607.07895,于2026年7月8日提交。Weicheng Ma和John Guerrerio为共同第一作者。除了西班牙语,该框架还可适应其他语言和地区,为构建多语言刻板印象基准提供了一条可扩展的路径。这项工作拓宽了LLM刻板印象分析的范围,并为全面的跨文化偏见评估奠定了基础。

展开要点与分析

文章情报

投资人进阶

要点

  • 提出人机协作框架,结合LLM生成候选刻板印象与本地注释者验证,低成本构建多语言数据集。
  • 构建EspanStereo,首个覆盖欧洲和拉丁美洲多个西语国家的刻板印象数据集,捕捉文献中及文化特定偏见。
  • 评估西班牙语LLMs后发现刻板印象行为因国家而异,凸显文化特定评估的重要性。
  • 框架可推广至其他语言,推动多语言刻板印象基准测试的发展。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。