蘋果隱私保護機器學習與AI研討會2026

蘋果公司堅信隱私是一項基本人權。隨著人工智慧能力不斷增強並更深入地融入人們的日常生活，推進隱私保護技術的研究以確保使用者在享受創新AI體驗的同時保護隱私變得愈發重要。

蘋果的基礎研究一直在該領域推動前沿發展。2026年初，蘋果舉辦了隱私保護機器學習與AI研討會。這場為期兩天的活動匯聚了蘋果研究人員和更廣泛研究社群的成員，共同探討隱私保護ML和AI的最新進展，重點關注三個關鍵領域：私有學習與統計、基礎模型與隱私、以及攻擊與安全。

研討會的演講和討論探討了隱私與ML領域的研究進展和開放性問題，包括聯邦學習、統計學習、信任模型、攻擊、隱私核算以及基礎模型帶來的獨特挑戰。這些研究領域將創新建立在嚴格的隱私和安全評估基礎上，連線了理論框架與實際應用。

蘋果在部落格中分享了精選演講的錄音以及研討會討論的論文回顧。特邀演講包括：Kunal Talwar的“Crypto for DP and DP for Crypto”，多倫多大學Aleksandar Nikolov的“Online Matrix Factorization and Online Query Release”，喬治城大學Elissa Redmiles的“Learning from the People”，以及CISPA的Franziska Boenisch的“Understanding and Mitigating Memorization in Foundation Models”。

研討會還展示了多篇已發表研究，涵蓋自適應方法在隱私設定中的優勢、Clip模型中的記憶化與緩解、蘋果生態系統中的同態加密、差分隱私持續機制的併發組合、上下文代理安全、訓練資料剪枝、擴散模型中的前後景記憶化、高效隱私軟提示遷移、隱私損失核算、聯邦統計中的差分隱私、擴散模型中的神經元定位、隨機鸚鵡群、區域性節點差分隱私、自監督學習中的記憶化、移動裝置上LLM微調的記憶體高效反向傳播、開放式LLM在私有適應中的必要性、私有分位數估計、模糊上下文中的隱私推理、聯邦微調的低秩適應、差分隱私對合成資料的差異化影響、多智慧體安全與隱私的沙盒環境、端到端差分隱私合成資料中離散化的影響、基於相似性的隱私指標的不足，以及透過強資料處理不等式研究資料記憶化的權衡。

蘋果感謝Vitaly Feldman、Christina Ilvento、Tatsuki Koga、Audra McMillan、Congzheng Song、Kunal Talwar、Andreas Thoma和Jiayue Ye等眾多人士對研討會的貢獻。