FALE: 公平感知的 ALE 图用于审计亚群的偏见
内容提要
本文探讨了机器学习中的公平性问题，提出了FAE框架，通过前后处理步骤改善模型的程序公平性。研究定义了程序公平性，并提出新指标GPF_FAE以验证其有效性。同时介绍了AdaFair方法，优化公平性与分类准确性之间的平衡。实验识别了导致不公平的特征，并提出了改善方法，强调了公平性与隐私之间的权衡。
延伸解读
程序公平性：被忽视的维度
文章指出，现有公平性研究多聚焦于分配公平性，即结果是否公平，而忽视了程序公平性，即决策过程是否公平。程序公平性关注模型如何做出决策，而非仅仅决策结果。FAE框架通过前处理和后处理干预，旨在提升程序公平性，这为公平性审计提供了新视角。
GPF_FAE指标：量化程序公平
为了评估群体程序公平性，文章提出了新指标GPF_FAE，利用特征归因解释技术捕捉模型的决策过程。该指标在合成和真实数据集上得到验证，揭示了程序公平性与分配公平性之间的关系，并有助于识别导致程序不公平的特征。
AdaFair：平衡公平与准确
AdaFair方法基于AdaBoost，显式处理类别不平衡，在优化公平性的同时维持分类准确性。实验表明，其在平衡错误方面比现有公平性方法显著提升25%，为公平性优化提供了有效工具。
公平与隐私的权衡
研究显示，公平性与隐私之间存在权衡，尤其对弱势群体。训练数据偏差越大，为实现公平所付出的隐私成本越高。这提醒实践者，在提升公平性时需关注隐私泄露风险，并考虑对弱势群体的额外影响。
Q&A
FAE框架的主要功能是什么？
FAE框架结合了数据分析过程中的前处理和后处理步骤，以改善模型的程序公平性。
什么是程序公平性，它与分配公平性有什么关系？
程序公平性是机器学习模型的一个重要概念，研究表明程序公平性与分配公平性之间存在一定的关系。
GPF_FAE指标的作用是什么？
GPF_FAE是用于评估机器学习模型群体程序公平性的新指标，利用特征归因解释技术捕捉模型的决策过程。
AdaFair方法如何优化公平性与分类准确性之间的平衡？
AdaFair方法显式处理类别不平衡，在维持分类准确性的同时优化公平性，实验证明其在平衡错误方面表现优于现有方法。
研究发现公平性与隐私之间有什么权衡？
研究表明，公平性与隐私之间存在权衡，尤其是对弱势群体，训练数据的偏差越大，公平性所付出的隐私成本越高。
如何识别导致模型程序不公平的特征？
研究提出了一种方法来识别导致模型程序不公平的特征，并提供了两种改善程序公平性的方法。
