Apple プライバシー保護機械学習&AI ワークショップ 2026

Appleは、プライバシーは基本的人権であると確信しています。AIの能力が向上し、人々の日常生活により統合されるにつれて、ユーザーが革新的なAI体験を享受しながらプライバシーが保護されるように、プライバシー保護技術の研究を進めることがますます重要になっています。

Appleの基礎研究はこの分野で常に最先端を押し進めており、2026年初頭に「プライバシー保護機械学習&AIワークショップ」を開催しました。この2日間のイベントには、Appleの研究者と広範な研究コミュニティのメンバーが集まり、プライバシー保護MLおよびAIの最新情報について議論しました。特に、プライベート学習と統計、基盤モデルとプライバシー、攻撃とセキュリティの3つの主要分野に焦点を当てました。

ワークショップでの発表と議論では、フェデレーテッドラーニング、統計学習、信頼モデル、攻撃、プライバシー会計、そして基盤モデルがもたらす独自の課題など、プライバシーとMLにおける進歩と未解決の問題を探求しました。これらの研究分野は、厳格なプライバシーとセキュリティ評価に基づいて革新を支え、理論的枠組みと実際の応用を橋渡しします。

Appleはブログで、選ばれた講演の録画とワークショップで議論された論文の要約を共有しています。招待講演には、Kunal Talwar氏の「Crypto for DP and DP for Crypto」、トロント大学のAleksandar Nikolov氏の「Online Matrix Factorization and Online Query Release」、ジョージタウン大学のElissa Redmiles氏の「Learning from the People」、CISPAのFranziska Boenisch氏の「Understanding and Mitigating Memorization in Foundation Models」が含まれます。

また、ワークショップでは多くの研究論文が発表されました。内容は、高プライバシー設定における適応的手法の優位性、CLIPモデルの記憶化とその緩和、Appleエコシステムにおける機械学習と準同型暗号の組み合わせ、差分プライベート継続メカニズムの同時合成、コンテキストエージェントセキュリティ、トレーニングデータの刈り込み、拡散モデルにおける前景・背景記憶化、大規模言語モデルの効率的プライバシー保護ソフトプロンプト転送、プライバシー損失会計、差分プライベート連合統計、拡散モデルの記憶化ニューロンの特定、差分プライベートプロンプト学習、局所ノード差分プライバシー、自己教師あり学習における記憶化、リソース制約のあるモバイルデバイスでのLLM微調整のメモリ効率的逆伝播、現在のプライベート適応に必要なオープンLLM、2サーバーモデルでのプライベート分位数推定、曖昧なコンテキストでのプライバシー推論、連合微調整のための低ランク適応、合成データに対する差分プライバシーの不均等な影響、マルチエージェント安全性・プライバシー・セキュリティ研究のためのサンドボックス、エンドツーエンド差分プライベート合成データにおける離散化の影響、類似性ベースのプライバシーメトリクスの不十分さ、強データ処理不等式によるデータ記憶化のトレードオフなど多岐にわたります。

Appleは、このワークショップに貢献したVitaly Feldman氏、Christina Ilvento氏、Tatsuki Koga氏、Audra McMillan氏、Congzheng Song氏、Kunal Talwar氏、Andreas Thoma氏、Jiayue Ye氏など多くの方々に感謝の意を表しています。