在人工智慧系統日益滲透到招聘、內容推薦等社會關鍵領域的今天,公平性度量已成為研究與實踐的核心關注點。然而,這些度量往往依賴於種族、民族等受法律嚴格約束或文化高度敏感的 demographic 訊號,資料獲取與使用的難度極大。針對這一挑戰,一篇於2026年6月25日提交至 arXiv(編號2606.27558)的論文提出了“隱私保護的機率性種族/民族估計”(Privacy-Preserving Probabilistic Race/Ethnicity Estimation,簡稱PPRE)方法,旨在以隱私保護的方式對美國 LinkedIn 使用者進行基於種族/民族的公平性度量。
PPRE 方法的核心在於融合兩個互補的資料來源:一是貝葉斯改進的姓氏地理編碼估計器(BISG),它利用使用者的姓氏和地理資訊推斷其種族/民族機率分佈;二是稀疏的“金標準”調查集,其中包含使用者自願自我報告的人口統計資訊。透過將這兩種資料來源相結合,PPRE 能夠在聚合層面獲得更準確的估計,同時避免依賴單一資料來源的偏見。
為了保護這些敏感資料,PPRE 整合了三種前沿隱私技術:安全兩方計算(2PC)確保資料在計算過程中不洩露給任何一方;差分隱私(DP)為查詢結果新增噪聲,防止個體資訊被推斷;加法同態加密(AHE)允許在加密資料上直接進行運算,無需解密。這些技術的結合使得 PPRE 能夠在完全不暴露個人敏感資訊的前提下,輸出可靠的公平性評估結果。
論文詳細闡述了 PPRE 的隱私保證,並展示了其在兩個關鍵場景中的效果:候選人端(例如用於招聘演算法的公平性評估)和觀眾端(例如用於內容推薦系統的公平性監測)。作者還提出了一個“可轉移框架”,旨在幫助其他社交平臺或機構構建類似的隱私保護度量基礎設施,從而在嚴格遵守隱私法規的同時推動演算法公平性的提升。這項研究不僅為 LinkedIn 提供了一種生產級公平性度量方案,也為整個行業在隱私約束下進行敏感資料利用樹立了範例。