AI在招聘中比人類更容易形成偏見

普林斯頓大學和芝加哥大學的研究人員發現，大型語言模型（LLMs）在模擬招聘情境中比人類更容易形成偏見。這一發現對AI在現實世界中的應用提出了嚴峻挑戰，尤其是在篩選簡歷、面試甚至貸款審批等領域。

研究團隊讓包括ChatGPT、Claude和Gemini在內的幾個主流LLM參與了一個模擬招聘遊戲，該遊戲改編自一項心理學研究。每個模型扮演一個虛構城市的顧問，需要為20個不同職位（包括醫生、律師、兒童護理員和清潔工）挑選候選人。候選人來自四個虛構的民族群體：Tufa、Aima、Reku和Weki。每一輪，模型從四個候選人中各選一個，並立即得知所選候選人是否成功。實際上，所有候選人的成功機率完全相同。

然而，模型很快開始基於早期觀察到的少數成功或失敗案例，將不同群體分配到不同職業。例如，如果某個模型得知一名Aima族候選人在醫生崗位上失敗（醫生被認為需要高溫暖度和能力），它就會避免再選擇任何Aima族作為醫生，轉而將其分配到清潔工等被認為要求較低的崗位。這種刻板印象的程度遠超人類參與者：在相同的實驗中，人類的分隔指數為0.84（滿分2），而LLM的平均分數高出約65%，OpenAI的推理模型o3甚至達到1.83。

研究者Ryan Liu（普林斯頓大學博士生）解釋，LLM天生傾向於從有限資料中快速泛化，這是其訓練目標（解決數學、程式設計等問題）的副產品。這種“探索-利用困境”使模型過早固守於初始假設，尤其在社交情境中導致嚴重偏見。值得注意的是，推理能力更強的新模型（如o3和DeepSeek R1）表現出更強烈的偏見。

康奈爾大學電腦科學家Angelina Wang（未參與研究）指出，隨著聊天機器人具備記憶和個性化功能，它們可能會過度依賴過去互動中的模式，從而形成偏見。她強調，簡單地減少記憶並非解決方案，因為使用者需要記憶功能。關鍵在於找到“既不過多也不過少”的平衡。

研究還嘗試了糾正措施：直接要求模型公平收效甚微，但承諾為多元化招聘提供額外獎勵則顯著減少了偏見。提供候選人的個人相關資訊（如年齡、教育背景）也有效，而無關資訊（如髮色、紋身）則無濟於事。這表明，設計包含社會價值的目標可以引導模型做出更公平的決策。

在現實世界中，AI系統是否會對求職者產生刻板印象仍是一個開放問題。實驗室中模型立即獲得反饋，而真實招聘的反饋往往延遲。但一旦反饋出現，模型可能過度解讀並延續偏見。研究人員警告，隨著LLM越來越多地參與招聘、貸款和假釋決策，我們不僅要擔心人類已知的偏見，還需警惕AI自主演化出的新穎偏見。這些“前所未有的偏見”可能無處不在。

該研究發表於今年7月在首爾舉行的ICML會議上。