AI招聘工具可能导致种族偏见和系统性拒绝

毕业季来临，2026届毕业生正进入近年来最艰难的劳动力市场。入门级招聘放缓，而AI工具让求职者更容易投递大量申请。结果，岗位减少和申请激增使企业收到的入门级申请数量比2022年增加了近三倍。AI不仅改变了企业是否招聘，还改变了招聘方式。美国90%的雇主使用AI筛选工具来排序和排名求职者，且多数依赖少数几家第三方供应商。当同一种算法影响众多雇主时，对求职者意味着什么？

我们对340万人进行了跟踪，他们向150家雇主、11个行业领域的1700个职位提交了400万份申请。每份申请都由同一家第三方供应商开发的AI招聘工具评估。我们的新论文罕见地揭示了算法招聘的“黑箱”，表明这些工具加剧了种族偏见，并将同一批人排除在所有申请的工作之外。

大规模揭示种族偏见

我们发现AI候选人筛选存在种族差异的实质性证据。为衡量不利影响，我们采用了美国平等就业机会委员会（EEOC）的“五分之四规则”，即当一个群体的推荐率低于最受推荐群体推荐率的80%时，该职位即被视为存在歧视。我们发现，26%的黑人申请者和15%的亚裔申请者所申请的职位存在AI系统对其种族的歧视。如果AI以与最受青睐群体（通常是白人）相同的比例推荐黑人和亚裔，那么将有4万份更多的申请进入招聘的下一阶段。

如何衡量不利影响至关重要。我们研究的供应商为不同雇主的众多职位筛选申请者。如果将供应商的所有推荐汇总在一起，视为一个大型招聘流程，则未发现不利影响。但如果像通常的不利影响评估那样，逐个职位进行分析，就会暴露许多职位中的不利影响。例如，假设AI工具经常推荐黑人申请仓库工作，但很少推荐他们做金融工作。如果将所有职位平均，这两个模式会相互抵消，似乎没有歧视。宏观平均掩盖了逐职位发生的真实歧视。

算法单一文化导致系统性拒绝

我们还研究了因共同依赖同一招聘供应商而带来的新问题。在之前的工作中，我们提出理论假设：算法单一文化（即许多雇主依赖相同的算法推荐）可能导致一些人被排除在工作之外。利用我们的大型真实招聘AI推荐数据集，我们验证了这一假设。我们发现，提交多份申请至同一算法招聘供应商筛选的职位的人，比企业在统计上独立决策时，更有可能被所有申请的职位拒绝。提交四份申请的求职者中，有10%被所有申请的单位拒绝。

我们的研究还发现，在其他情况下这种模式并不明显。我们分析了同期进行的最大规模招聘决策研究数据，该研究向108家财富500强公司发送了8.3万份申请，且未关注是否使用AI。我们发现，在该数据中，求职者被所有申请公司拒绝的比例并不高于各公司独立决策时的预期值。这表明市场集中度很重要：当一个招聘供应商开始主导一个行业的筛选时，候选人被排除的可能性就会增加。

AI筛选工具将三个不应共存于高风险决策中的特性结合在一起：广泛采用、高度影响和对公众不透明。我们的研究为揭示AI招聘工具的后果取得了进展，但这项技术的许多影响仍不清楚。随着基于语言模型和智能体的新工具的出现，这一领域正在快速演变。这项工作的重要教训是，对算法招聘进行独立研究具有价值和必要性。没有独立研究，就很难推行基于证据的AI政策来管理AI对个人就业前景和整体劳动力构成的影响。