在人工智能系統日益滲透到招聘、內容推薦等社會關鍵領域的今天,公平性度量已成為研究與實踐的核心關注點。然而,這些度量往往依賴於種族、民族等受法律嚴格約束或文化高度敏感的 demographic 信號,數據獲取與使用的難度極大。針對這一挑戰,一篇於2026年6月25日提交至 arXiv(編號2606.27558)的論文提出了“隱私保護的概率性種族/民族估計”(Privacy-Preserving Probabilistic Race/Ethnicity Estimation,簡稱PPRE)方法,旨在以隱私保護的方式對美國 LinkedIn 用户進行基於種族/民族的公平性度量。
PPRE 方法的核心在於融合兩個互補的數據源:一是貝葉斯改進的姓氏地理編碼估計器(BISG),它利用用户的姓氏和地理信息推斷其種族/民族概率分佈;二是稀疏的“金標準”調查集,其中包含用户自願自我報告的人口統計信息。通過將這兩種數據源相結合,PPRE 能夠在聚合層面獲得更準確的估計,同時避免依賴單一數據源的偏見。
為了保護這些敏感數據,PPRE 集成了三種前沿隱私技術:安全兩方計算(2PC)確保數據在計算過程中不泄露給任何一方;差分隱私(DP)為查詢結果添加噪聲,防止個體信息被推斷;加法同態加密(AHE)允許在加密數據上直接進行運算,無需解密。這些技術的結合使得 PPRE 能夠在完全不暴露個人敏感信息的前提下,輸出可靠的公平性評估結果。
論文詳細闡述了 PPRE 的隱私保證,並展示了其在兩個關鍵場景中的效果:候選人端(例如用於招聘算法的公平性評估)和觀眾端(例如用於內容推薦系統的公平性監測)。作者還提出了一個“可轉移框架”,旨在幫助其他社交平台或機構構建類似的隱私保護度量基礎設施,從而在嚴格遵守隱私法規的同時推動算法公平性的提升。這項研究不僅為 LinkedIn 提供了一種生產級公平性度量方案,也為整個行業在隱私約束下進行敏感數據利用樹立了範例。