关于输出扰动对二元线性分类中公平性的影响
内容提要
本文综述差分隐私与算法公平性的关系：差分隐私在基线设置下可能扩大组间性能差异，在鲁棒设置下则可缩小差异，因其具有正则化效应。研究还涉及数据不平衡、隐私保证、对抗性公平分类、公平性的隐私成本，以及DP-SGD与目标扰动机制的比较，并探讨敏感属性受限时的公平学习算法及隐私、公平与效用间的权衡。
延伸解读
差分隐私对公平性的双重影响
文章指出，差分隐私在基线设置下可能扩大组间性能差异，但在鲁棒设置下反而缩小差异。这种相反效果源于差分隐私被重新解释为正则化。读者需注意，隐私保护机制对公平性的影响并非单一方向，实际部署时应考虑模型所处的具体设置。
数据不平衡与隐私保证的公平性风险
即使数据只有轻微不平衡且隐私保证较宽松，也可能引发非公平性。这意味着在现实数据中，公平性风险可能比预期更早出现。对于使用差分隐私的机器学习系统，需同时监控数据分布和隐私参数，避免因小失大。
公平性带来的隐私成本
公平性会牺牲一部分隐私权，尤其对弱势群体影响更大。训练数据偏差越大，为弱势群体实现公平所付出的隐私成本也越高。这提示在追求公平时，需权衡隐私泄露风险，并关注不同群体间的成本分配是否合理。
敏感属性受限下的公平学习
当收集敏感属性信息受到禁止或限制时，可通过差分隐私算法实现公平学习。文章提出两种算法，同时保证差分隐私和均等几率性，并讨论隐私、公平与效用间的权衡。这为在合规约束下设计公平模型提供了可行路径。
Q&A
差分隐私在基线设置和鲁棒设置下对组间性能差异的影响有什么不同？
在基线设置下，差分隐私会增加组间性能差异；在鲁棒设置下，则会减少组间性能差异。这种差异被解释为差分隐私具有正则化效应。
数据不平衡和隐私保证程度如何影响深度学习模型的公平性？
即使数据只有很小的不平衡和较宽松的隐私保证，也会引起非公平性。
公平性对隐私有什么影响？特别是对弱势群体？
公平性会牺牲一部分隐私权，尤其是对弱势群体。训练数据的偏差越大，为了弱势群体的公平性所付出的隐私成本也越高。
DP-SGD和目标扰动机制在隐私保护机器学习中有什么不同？
DP-SGD在流行度和兴趣方面已经超过了目标扰动机制。但通过更严格的隐私分析和新的计算工具，目标扰动机制在无约束的凸广义线性问题上能够与DP-SGD竞争。
在敏感属性信息受限的情况下，如何实现公平学习？
可以通过差分隐私算法实现公平学习，具体提出了两种算法，同时保证差分隐私和均等几率性，并讨论了隐私、公平与效用之间的权衡关系。
有哪些方法可以减轻二元分类中的不公平性？
一种新方法特别关注来自两个群体的个体的二元分类任务，旨在实现相似的误报率和漏报率。该方法已在犯罪风险评估、信用、放贷和大学入学等领域的数据集上进行了实证评估。
