跨领域的联邦学习与基于记录的个性化差分隐私
内容提要
该文综述联邦学习中的隐私保护研究，重点探讨差分隐私与隐私-效用平衡。涉及ULDP-FL、Fed-SMP、DP-FedSAM等框架，通过梯度扰动、稀疏化、加权裁剪等技术实现用户级或客户端级差分隐私，并利用Renyi DP进行隐私分析。实验表明，这些方法在保证隐私的同时提升了模型准确性和通信效率。
延伸解读
隐私保护技术的演进脉络
文章梳理了2020年至2023年间联邦学习隐私保护的多项研究，从早期局部差分隐私（LDP）与中心差分隐私（CDP）的对比，到近期ULDP-FL、Fed-SMP、DP-FedSAM等框架的提出。技术路线从单纯加噪转向梯度扰动、稀疏化、加权裁剪等更精细的手段，并普遍采用Renyi DP进行隐私分析。这反映出该领域正从理论探索走向兼顾效率与实用性的系统优化。
隐私与效用的平衡策略
多项工作致力于在差分隐私约束下提升模型准确性。例如Fed-SMP通过稀疏化模型扰动在提供客户端级差分隐私的同时保持高准确性并节省通信成本；ULDP-FL利用用户级加权裁剪改善隐私-效用权衡；DP-FedSAM则结合梯度扰动与局部平坦模型减少信息泄露。这些方法表明，通过算法设计可以在一定隐私预算下实现更优的效用。
差分隐私的防御边界与局限
文章指出，局部差分隐私和中心差分隐私能有效防御后门攻击和减轻白盒成员推理攻击，且较其他鲁棒性防御更有效。然而，这两种技术都无法防御属性推理攻击。这一发现提示读者，差分隐私并非万能，在实际部署中需结合其他安全机制以应对更广泛的隐私威胁。
个性化与公平性的交叉探索
除了隐私与效用的权衡，文章还涉及联邦学习中的个性化与公平性问题。例如，有研究引入d-privacy方法，在提供个性化模型训练和形式化隐私保证的同时，实现了显著优于传统联邦学习模型的群体公平性。这表明隐私保护可以与个性化服务、公平性目标协同设计，为跨领域联邦学习提供更全面的解决方案。
Q&A
联邦学习中的差分隐私主要解决什么问题？
联邦学习中的差分隐私主要解决在分布式学习过程中保护用户数据隐私的问题，防止隐私泄露，同时平衡隐私保护与模型实用性。
ULDP-FL框架是如何实现用户级差分隐私的？
ULDP-FL通过每个用户的加权剪裁直接保证用户级差分隐私，在通用的跨域联邦学习中有效提供用户级差分隐私，并在隐私-效用权衡方面相比基线方法有显著改进。
Fed-SMP方案采用了什么技术来提供客户端级差分隐私？
Fed-SMP采用Sparsified Model Perturbation (SMP)技术，在保持高模型准确性的同时，提供客户端级差分隐私保证，并使用Renyi DP进行紧密的隐私分析。
DP-FedSAM算法如何提高差分隐私联邦学习的性能？
DP-FedSAM通过梯度扰动和局部平坦模型来提高权重扰动鲁棒性和性能，进而减少感知信息泄露，在DPFL中达到最先进的性能。
在联邦学习中，局部差分隐私（LDP）和中心差分隐私（CDP）在防御攻击方面有何不同？
LDP和CDP都可以有效防止后门攻击，并且较其他鲁棒性防御更加有效，同时可以减轻白盒成员推理攻击。然而，这两个技术都无法防御属性推理攻击。
联邦学习中如何平衡个性化、隐私保证和公平性？
通过引入$d$-privacy方法，可以提供个性化模型训练、形式上的隐私保证和显著优于传统联邦学习模型的群体公平性。
