Inf2Guard: 一个信息理论框架用于学习抵抗判断攻击的隐私保护表示
内容提要
该文综述机器学习隐私保护研究，涵盖成员推理、模型反演、属性推断和模型窃取等攻击，以及干扰攻击、数据扰动、差分隐私、MemGuard噪声、互信息正则化和统计推断框架等防御方法，这些方法可在保持模型精度的同时降低隐私泄露，提升联邦学习等系统的安全性。
延伸解读
隐私攻击的多样性与防御的针对性
文章综述了成员推理、模型反演、属性推断和模型窃取四类攻击，并介绍了相应的防御方法，如干扰攻击、数据扰动、差分隐私、MemGuard噪声、互信息正则化和统计推断框架。这些方法针对不同攻击类型设计，表明隐私保护需要根据具体威胁模型选择合适策略，而非通用方案。
隐私与效用的平衡实践
多项防御方法强调在降低隐私泄露的同时保持模型精度。例如，差分隐私通过调节隐私预算平衡隐私与效用；互信息正则化限制输入信息以防御模型反演；数据扰动在联邦学习中提高重构误差160倍以上。这些案例说明隐私保护技术正致力于减少对模型可用性的影响。
联邦学习场景下的隐私挑战
文章特别提到联邦学习系统面临模型逆推攻击的隐私泄露问题，并介绍了一种学习数据扰动来防御DLG和GS攻击的策略，实验证明能显著提高数据重构误差。这反映了分布式机器学习中隐私保护的迫切性，以及针对特定攻击设计防御机制的有效性。
Q&A
机器学习中常见的隐私攻击有哪些？
文章提到四种主要攻击：成员推理攻击、模型反演攻击、属性推断攻击和模型窃取攻击。
差分隐私如何防御成员推理和模型反演攻击？
通过调节隐私预算参数，并修改和标准化置信度得分矢量，差分隐私机制能保护成员隐私，同时保持分类精度，有效防御成员推理和模型反演攻击。
MemGuard 防御机制的原理是什么？
MemGuard 通过添加特定的噪声向量来抵御成员推理攻击，实现更好的隐私保护和安全性，实验验证了其有效性和优越性。
如何防御联邦学习中的模型反演攻击？
文章提出一种学习数据扰动的方法，实验证明该方法在防御 DLG 和 GS 攻击的同时，能将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。
互信息正则化如何防御模型反演攻击？
通过限制模型输入中包含的信息，从而限制对手从模型预测中推断出私有属性的能力，该方法能应用于多种模型，在保护隐私和工具合理性方面取得更好平衡。
成员推理攻击的威胁有多严重？
文章指出成员推理攻击适用性广泛且代价低廉，比先前认为的更具严重性，并提出了对抗此类攻击的第一种有效机制，同时保持模型的高效性。
