是否合并：对共享模型中群体公平训练的正则化效果分析
内容提要
该文综述公平机器学习研究，涵盖重叠子群体公平、全局与本地公平训练、鲁棒性攻击、公平与隐私权衡、Welfare-Equalizing算法、正则化流公平表示、群体公平联邦学习、公平分组框架、图卷积网络FairSample及决策树回归公平约束等方向。
延伸解读
重叠群体公平的统计不可能性
文章指出，当多个重叠群体的目标不是平等预测而是良好预测时，即使为每个子群体单独提供性能良好的预测器，对于未加权的假阴性和假阳性率的简单目标，满足公平性在统计上也可能是不可能的。这意味着在重叠人口和顺序预测场景下，公平性保证面临根本性挑战，读者需注意公平性目标与预测性能之间的内在张力。
全局公平训练与本地方法的对比
文章提出了一种基于惩罚性经验损失最小化的全局公平训练算法，实验证明该方法在保持高准确率的同时，相比本地公平训练方法能更有效地提升公平性。这提示读者，在资源允许时，全局优化可能比局部调整更具优势，但需权衡计算成本与公平性收益。
公平性与鲁棒性、隐私的权衡
研究表明，在训练数据存在偏差时，平等对待不同群体可能与鲁棒性冲突，攻击者可通过控制样本和标签攻击群体公平性，降低测试准确率。同时，公平性会牺牲部分隐私，尤其对弱势群体，且数据偏差越大，隐私成本越高。读者应关注公平性、鲁棒性与隐私之间的多目标平衡。
联邦学习与图神经网络的公平性进展
文章介绍了群体公平的联邦学习框架，通过平均条件概率计算跨领域群体重要性权重，并利用正则化技术缩小最差与最好表现群体的差距。此外，针对图卷积网络，FairSample框架通过注入边缘和可学习邻居采样策略改善图结构偏差。这些方法为实际异构环境中的公平决策提供了新思路。
Q&A
重叠子群体的公平训练为什么可能无法同时满足多个群体的公平目标？
当多个重叠群体的目标不是平等预测而是良好预测时，即使为每个子群体分别提供性能良好的预测器，对于未加权的假阴性和假阳性率的简单目标而言，满足这个目标在统计上也可能是不可能的。
全局公平训练和本地公平训练有什么区别？
全局公平训练算法基于惩罚性经验损失最小化，实验证明在保持高准确率的同时，相比本地公平训练方法能更有效地提升公平性。
公平机器学习算法在训练数据有偏差时可能面临什么风险？
在训练数据存在偏差的情况下，将同等重视不同规模和分布的不同群体可能会与鲁棒性相冲突，攻击者可以通过对样本和标签的控制来攻击群体公平性机器学习，从而在测试数据上显著降低测试准确率。
公平性对隐私有什么影响？
公平性会牺牲一部分隐私权，特别是对弱势群体。同时，训练数据的偏差越大，为了弱势群体的公平性所付出的隐私成本也越高。
Welfare-Equalizing 算法是什么？
Welfare-Equalizing 是一种公平算法，旨在保护受保护群体。该方法提供了一种公平性数据分类的统一框架，以及一种计算最优分类器的算法。
基于正则化流模型的公平表示学习算法有什么特点？
该算法可以将不同群体的个体映射为单个群体，并在敏感属性方面实现更强的不变性。
群体公平的联邦学习框架如何减少群体偏见？
该框架通过利用平均条件概率来计算由异构训练数据得出的跨领域群体重要性权重，使用修改的乘法权重更新方法来优化表现最差的群体的性能。此外，提出了正则化技术来最小化最差和最好表现群体之间的差异，同时通过阈值机制确保在减少偏见和群体表现下降之间取得平衡。
FairSample 框架如何解决图卷积网络中的公平性问题？
FairSample 框架共同解决图结构偏差、节点属性偏差和模型参数对人口平等性的影响，采用了注入边缘和使用增强学习的可学习邻居采样策略来改善图结构和保证模型的公平性和质量，同时还采用了正则化目标来优化公平性。
决策树回归中如何提高公平性？
通过对核回归和特别是决策树回归中预期子人群的结果进行限制，以提高机器学习模型的公平性；该解决方案不影响决策树的复杂度顺序，并且容易集成到训练后的模型中。
