AI在招聘中比人类更容易形成偏见

普林斯顿大学和芝加哥大学的研究人员发现，大型语言模型（LLMs）在模拟招聘情境中比人类更容易形成偏见。这一发现对AI在现实世界中的应用提出了严峻挑战，尤其是在筛选简历、面试甚至贷款审批等领域。

研究团队让包括ChatGPT、Claude和Gemini在内的几个主流LLM参与了一个模拟招聘游戏，该游戏改编自一项心理学研究。每个模型扮演一个虚构城市的顾问，需要为20个不同职位（包括医生、律师、儿童护理员和清洁工）挑选候选人。候选人来自四个虚构的民族群体：Tufa、Aima、Reku和Weki。每一轮，模型从四个候选人中各选一个，并立即得知所选候选人是否成功。实际上，所有候选人的成功概率完全相同。

然而，模型很快开始基于早期观察到的少数成功或失败案例，将不同群体分配到不同职业。例如，如果某个模型得知一名Aima族候选人在医生岗位上失败（医生被认为需要高温暖度和能力），它就会避免再选择任何Aima族作为医生，转而将其分配到清洁工等被认为要求较低的岗位。这种刻板印象的程度远超人类参与者：在相同的实验中，人类的分隔指数为0.84（满分2），而LLM的平均分数高出约65%，OpenAI的推理模型o3甚至达到1.83。

研究者Ryan Liu（普林斯顿大学博士生）解释，LLM天生倾向于从有限数据中快速泛化，这是其训练目标（解决数学、编程等问题）的副产品。这种“探索-利用困境”使模型过早固守于初始假设，尤其在社交情境中导致严重偏见。值得注意的是，推理能力更强的新模型（如o3和DeepSeek R1）表现出更强烈的偏见。

康奈尔大学计算机科学家Angelina Wang（未参与研究）指出，随着聊天机器人具备记忆和个性化功能，它们可能会过度依赖过去交互中的模式，从而形成偏见。她强调，简单地减少记忆并非解决方案，因为用户需要记忆功能。关键在于找到“既不过多也不过少”的平衡。

研究还尝试了纠正措施：直接要求模型公平收效甚微，但承诺为多元化招聘提供额外奖励则显著减少了偏见。提供候选人的个人相关信息（如年龄、教育背景）也有效，而无关信息（如发色、纹身）则无济于事。这表明，设计包含社会价值的目标可以引导模型做出更公平的决策。

在现实世界中，AI系统是否会对求职者产生刻板印象仍是一个开放问题。实验室中模型立即获得反馈，而真实招聘的反馈往往延迟。但一旦反馈出现，模型可能过度解读并延续偏见。研究人员警告，随着LLM越来越多地参与招聘、贷款和假释决策，我们不仅要担心人类已知的偏见，还需警惕AI自主演化出的新颖偏见。这些“前所未有的偏见”可能无处不在。

该研究发表于今年7月在首尔举行的ICML会议上。