FairRR：通过随机响应进行群体公平的预处理
内容提要
本文研究了多种公平性预处理算法，并探讨了其组合以提高算法的健壮性。提出了后处理缓解技术，通过调整决策阈值来提升公平性，同时引入相关性偏移概念以优化数据处理。研究表明，这些方法在公平性和准确性方面表现优异，提供了多种机器学习中的公平性解决方案。
延伸解读
预处理与后处理的权衡
文章对比了预处理和后处理公平性方法。后处理通过调整决策阈值提升公平性，优势在于无需访问模型训练流程、对模型架构无偏好且计算成本低，但需在推理时了解敏感属性，且常被内部处理方法超越。预处理则试图从数据源头调整，但可能面临相关性偏移等问题。实践者需根据场景选择。
相关性偏移：数据预处理的新挑战
文章引入相关性偏移概念，指数据中敏感属性与目标变量的关联在训练和测试分布间发生变化，导致预处理算法失效。通过优化问题调整数据比率可减少偏移，提升准确性和公平性。这提醒我们，公平性方法需考虑数据分布变化，而非静态假设。
公平性-准确性Pareto前沿的实证发现
通过数千次模型评估，文章发现一种简单的“取消后处理方法”在不同表格数据集上实现的公平性-准确性Pareto前沿，包含了所有现有其他改进方法。这意味着复杂方法未必优于简单基线，实践者应重视基线比较，并注意方法学错误可能影响结论。
多分类与主动框架的扩展
文章将后处理公平性方法扩展到多分类场景，发现当数据集中个体数量相对于类别和受保护组数量较高时，精度下降微不足道。此外，基于主动框架的公平分类方法能自适应获取信息，显著优于随机化分类器。这些扩展为复杂场景提供了实用方案。
Q&A
FairRR的主要研究内容是什么？
FairRR研究了多种公平性预处理算法，并探讨了它们的组合以提高算法的健壮性。
后处理缓解技术的优势有哪些？
后处理缓解技术不需要访问模型训练流程，对基础模型架构没有偏好，且计算成本较低。
如何通过相关性偏移提高数据处理的公平性？
通过引入相关性偏移的概念，优化问题调整数据比率，从而提高数据处理算法的准确性和公平性。
FairRR如何评估公平性和准确性之间的权衡？
通过数千次模型评估，发现公平性-准确性Pareto前沿线包含了所有现有的其他改进方法。
FairReprogram方法的目的是什么？
FairReprogram旨在消除机器学习模型中的人口统计偏差问题，通过扰动输入数据来实现公平目标。
在多分类情况下如何实现公平性？
通过扩展基于后处理方法的技术，评估公平性权衡，并在真实世界应用数据集上进行测试。
