跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

隱私約束下的生產級公平性度量

文章摘要

本文提出了一種隱私保護的概率性種族/民族估計(PPRE)方法,用於在美國LinkedIn用户中實現關於種族/民族的公平性度量,同時保護隱私。該方法結合了貝葉斯改進的姓氏地理編碼估計器和稀疏的自報告人口統計調查數據,並應用了安全多方計算、差分隱私和加法同態加密等隱私技術。

來源arXiv Machine Learning作者: Osonde A. Osoba, Yuzi He, Saikrishna Badrinarayanan, Varun Mithal, Sakshi Jain, Natesh S. Pillai
隱私約束下的生產級公平性度量
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

在人工智能系統日益滲透到招聘、內容推薦等社會關鍵領域的今天,公平性度量已成為研究與實踐的核心關注點。然而,這些度量往往依賴於種族、民族等受法律嚴格約束或文化高度敏感的 demographic 信號,數據獲取與使用的難度極大。針對這一挑戰,一篇於2026年6月25日提交至 arXiv(編號2606.27558)的論文提出了“隱私保護的概率性種族/民族估計”(Privacy-Preserving Probabilistic Race/Ethnicity Estimation,簡稱PPRE)方法,旨在以隱私保護的方式對美國 LinkedIn 用户進行基於種族/民族的公平性度量。

PPRE 方法的核心在於融合兩個互補的數據源:一是貝葉斯改進的姓氏地理編碼估計器(BISG),它利用用户的姓氏和地理信息推斷其種族/民族概率分佈;二是稀疏的“金標準”調查集,其中包含用户自願自我報告的人口統計信息。通過將這兩種數據源相結合,PPRE 能夠在聚合層面獲得更準確的估計,同時避免依賴單一數據源的偏見。

為了保護這些敏感數據,PPRE 集成了三種前沿隱私技術:安全兩方計算(2PC)確保數據在計算過程中不泄露給任何一方;差分隱私(DP)為查詢結果添加噪聲,防止個體信息被推斷;加法同態加密(AHE)允許在加密數據上直接進行運算,無需解密。這些技術的結合使得 PPRE 能夠在完全不暴露個人敏感信息的前提下,輸出可靠的公平性評估結果。

論文詳細闡述了 PPRE 的隱私保證,並展示了其在兩個關鍵場景中的效果:候選人端(例如用於招聘算法的公平性評估)和觀眾端(例如用於內容推薦系統的公平性監測)。作者還提出了一個“可轉移框架”,旨在幫助其他社交平台或機構構建類似的隱私保護度量基礎設施,從而在嚴格遵守隱私法規的同時推動算法公平性的提升。這項研究不僅為 LinkedIn 提供了一種生產級公平性度量方案,也為整個行業在隱私約束下進行敏感數據利用樹立了範例。

展開要點與分析

文章情報

投資人進階

要點

  • PPRE方法融合了貝葉斯改進的姓氏地理編碼器(BISG)與稀疏的自我報告調查兩種種族/民族數據源。
  • 應用安全多方計算(2PC)、差分隱私(DP)和加法同態加密(AHE)來保護隱私。
  • 在候選人端和觀眾端兩個場景中演示了公平性度量的應用。
  • 提供了一個可轉移的框架,供其他機構實施類似的隱私保護度量基礎設施。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。