基于人口平衡的公平学习算法的归纳偏差
内容提要
该文综述隐私保护下的机器学习公平性研究，提出在敏感属性受限或缺失时降低偏见的多种算法，兼顾差分隐私、均等几率与准确性，并探讨公平、隐私与可解释性之间的权衡。
延伸解读
隐私约束下的公平学习路径
文章梳理了在敏感属性收集受限时实现公平学习的多种思路。例如，通过差分隐私算法在保护隐私的同时保证均等几率，或利用半私密设置中的少量干净敏感属性纠正嘈杂标签。这些方法表明，隐私保护并非公平性的绝对障碍，但需要针对数据条件设计特定算法，并接受公平与隐私之间的权衡。
公平与准确性的权衡策略
多个研究致力于在公平性和准确性之间取得更好平衡。例如，引入不确定性感知的属性分类器框架，在敏感属性存在不确定性时仍能实现显著的权衡优势；Antigone框架则通过伪敏感属性标签同时最大化准确性和公平性。这些工作显示，通过巧妙设计，公平性提升不一定以大幅牺牲准确性为代价。
多敏感属性与可解释性的进展
针对多个敏感特征的情况，有研究利用多元Wasserstein几何中心推广强人口平等标准，并提供闭式解以解释特征相关性，实现风险与不公平性的权衡。同时，PAFER方法探讨了公平性、隐私与可解释性之间的权衡，表明在决策树等可解释模型上，隐私机制（如Laplacian）能低误差估计统计平等性。这些进展拓展了公平学习的适用场景。
Q&A
在敏感属性信息受限或缺失的情况下，有哪些公平学习算法可以保护隐私？
文章提到了多种算法：FairSP框架利用少量干净敏感属性纠正嘈杂属性，通过对抗学习实现去偏差；Antigone框架使用伪敏感属性标签训练公平分类器，无需真实敏感属性；还有基于差分隐私的算法，在保护隐私的同时保证均等几率；以及利用神经网络随机采样器学习敏感属性的公平惩罚方法。
公平性、隐私和可解释性之间存在怎样的权衡？
文章指出这三者之间存在权衡关系。例如，PAFER方法用于在差分隐私下估计决策树的统计平等性，实验表明使用Laplacian机制能低误差估计统计平等性并保护隐私，且决策树更易解释。此外，差分隐私算法在保证隐私和均等几率时也需要权衡。
如何在不使用敏感属性标签的情况下训练公平分类器？
Antigone框架通过基于偏见分类器产生的伪敏感属性标签来训练公平分类器，无需真实敏感属性标签，同时最大化准确性和公平性。另外，还有方法利用神经网络以随机采样器学习敏感属性，实现非歧视性监督学习。
什么是FairSP框架，它如何实现半私密设置下的公平分类？
FairSP是一个在机器学习半私密设置中进行公平分类的新框架。它借助少量干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗方式共同模拟校正和干净数据，实现去偏差和预测，并保证当大多数敏感属性私密时的公平性。
如何处理多个敏感特征以实现公平性？
文章提出通过多次敏感特征逐步实现公平性，利用多元Wasserstein几何中心将Strong Demographic Parity标准推广到多个敏感特征的情况，并提供闭式解决方案，明确解释不同敏感特征之间的相关性，实现风险和不公平性之间的权衡。
有哪些方法可以在保护隐私的同时实现人口群体平等？
文章设计了一种单一的群体盲扫描映射，使源数据中两个群体的特征分布对齐，从而实现人口群体平等，而不需要提供个体样本的受保护属性值，也不依赖受保护属性的可访问性或估计。
