AI採用ツールは人種的偏見と体系的な拒否をもたらす可能性がある

卒業シーズンを迎え、2026年卒業生はここ数年で最も厳しい労働市場に参入している。エントリーレベルの採用は鈍化し、一方でAIツールにより求職者はこれまで以上に簡単に応募を送れるようになった。仕事が減り応募が増えた結果、企業がエントリーレベルのポジションで受け取る応募数は2022年比で約3倍になっている。AIは企業が採用するかどうかだけでなく、どのように採用するかも変えている。米国の雇用主の90%がAIスクリーニングツールを使って求職者を選別・ランク付けしており、その大半が少数のサードパーティベンダーに依存している。同じアルゴリズムが多くの雇用主に影響を与えるとき、求職者への影響はどうなるのか。

私たちは、150の雇用主、11の業種セクターにわたる1,700の求人に400万件の応募を送った340万人を追跡調査した。各応募は、単一のサードパーティベンダーが構築したAI採用ツールによって評価された。この新しい論文は、アルゴリズム採用の「ブラックボックス」内部をまれに見せており、これらのツールが人種的偏見を増幅し、同じ人々を応募先のすべての仕事から締め出していることを示している。

大規模な人種的偏見の表面化

私たちは、AIベースの候補者スクリーニングにおける人種的格差の実質的な証拠を発見した。悪影響を測定するために、EEOC（米国雇用機会均等委員会）の「5分の4ルール」を適用した。これは、あるグループの推薦率が最も推薦されたグループの80%未満である場合に、そのポジションを違反とする米国の雇用関連法（タイトルVII）に基づく。黒人応募者の26%、アジア系応募者の15%が、AIシステムが自分たちの人種グループに対して差別を行っているポジションに応募していた。AIが最も優遇されたグループ（通常は白人応募者）と同じ割合で黒人およびアジア系応募者を推薦していれば、さらに4万件の応募が採用の次の段階に進んでいたことになる。

悪影響の測定方法は重要である。調査対象のベンダーは、多くの雇用主のさまざまなポジションの応募者をスクリーニングしている。すべての推薦をプールし、ベンダーを1つの巨大な採用プロセスと見なすと、悪影響は見られない。しかし、通常の悪影響評価のように各ポジションを個別に見ると、多くのポジションで悪影響が明らかになる。例えば、AIツールが倉庫の仕事では黒人応募者を頻繁に推薦するが、金融の仕事ではほとんど推薦しないとする。すべての仕事を平均すると、これらのパターンは相殺され、差別がないように見える。大局的な平均は、仕事ごとに発生している実際の差別を隠している。

アルゴリズムの単一栽培が体系的な拒否を生む

また、単一の採用ベンダーへの共通依存によってもたらされる新たな懸念も研究した。以前の研究で、多くの雇用主が同じアルゴリズムの推奨に依存する「アルゴリズムの単一栽培」が、一部の人々を仕事から締め出す可能性があると理論化した。実際の採用AI推奨の大規模データセットを用いて仮説を検証した。同じアルゴリズム採用ベンダーがスクリーニングするポジションに複数応募した人は、企業が統計的に独立して決定を行った場合よりも、応募先のすべてのポジションから拒否される可能性が高いことがわかった。4件応募した応募者の10%が、応募先すべてから拒否されている。

また、他の状況ではこのパターンは見られないことも判明した。同じ時期に行われた最大の採用決定研究のデータを分析したところ、AIが使用されたかどうかに焦点を当てていなかったが、応募者が応募先すべてから拒否される割合は、各企業が独立して決定した場合の予測値よりも高くはなかった。これは市場集中が重要であることを示唆している。単一の採用ベンダーが業界のスクリーニングを支配するようになると、候補者が締め出される可能性が高まる。

AIスクリーニングツールは、広く採用され、影響力が大きく、一般に不透明であるという3つの特性を兼ね備えており、これらはハイステークスな意思決定では共存すべきではない。本研究は、AI採用ツールの影響を明らかにする進歩をもたらしたが、このテクノロジーの影響の多くは依然として不明である。言語モデルやエージェントを使用した新しいツールが構築されるにつれ、この分野は急速に進化している。この研究から得られる重要な教訓は、アルゴリズム採用に関する独立した研究の価値と必要性である。独立した研究がなければ、AIが個人の就職見込みや全体的な労働力構成に与える影響を管理するためのエビデンスに基づくAI政策を追求することは困難である。