差分隱私(DP)文本混淆的目標是通過擾動輸入文本來提供嚴格的隱私保障,使得私有輸出文本與原始文本在量化上不可區分。雖然詞級擾動較為直觀,但有意義的文本私有化通常需要在完整文檔層面進行。近期研究為隱私預算分配奠定了理論基礎,即如何將總體ε預算合理地分配到文本的各個組成部分。
來自慕尼黑工業大學的研究團隊——包括Stephen Meisenbacher、Angelo Kleinert和Florian Matthes——在發表於PrivateNLP 2026的論文中,對DP文本混淆中的多種文本分解和預算分配技術進行了系統評估。該論文共22頁,包含5張圖和12張表格。研究團隊測試了不同的文本分塊方法(如按句子、段落或固定長度切分)與ε分配策略(如均勻分配、按長度比例分配等)的組合效果。實驗結果顯示,這些設計選擇至關重要:即使在可比較的隱私預算下,不同方法的選擇會導致結果出現顯著差異。例如,某些分解方式結合特定分配策略能更好地保留語義,而其他組合則可能導致效用大幅下降。
該研究提供了可信的證據,表明通過優化DP混淆程序可以最大化經驗性隱私-效用權衡。作者指出,未來的工作可以進一步探索自適應分解和預算分配策略,以應對更復雜的文本場景。這項研究為DP文本混淆的實際部署提供了重要指導,特別是在需要平衡隱私保護與文本可用性的應用中,如數據發佈、人工智能訓練中的隱私保護等。研究結果還表明,開發者應謹慎選擇分解和分配方法,以根據具體應用需求調整隱私保障水平。