数据集公平性：通过效用保证在您的数据上实现公平
内容提要
本文综述机器学习公平性研究，涵盖利用贝叶斯学习量化不确定性以平衡公平与效用、后期处理在教育与司法等领域提升公平性且不损准确性，以及随机多目标优化、因果贝叶斯网络、在线bootstrap等方法在权衡准确度与公平性的同时支持隐私保护与公平认证。
延伸解读
不确定性量化如何连接公平与效用
文章提出利用贝叶斯学习估计样本预测的不确定性，并以此定义新的公平性-效用目标。实证发现低分类不确定性的样本更准确也更公平。这意味着在优化公平性时，可以优先关注高不确定性样本，从而在提升公平性的同时不牺牲整体效用。该方法为公平机器学习提供了一种可量化的权衡思路。
后期处理在现实场景中的有效性
文章通过实证研究指出，在教育、心理健康、刑事司法和住房安全等领域，使用后期处理措施解决公平性问题，能够显著提高公平性而不牺牲准确性。这表明后期处理是一种实用且低风险的公平性干预手段，尤其适合已部署模型的政策场景，为政策制定者提供了可操作的公平性提升路径。
隐私保护与公平认证的技术进展
文章介绍了基于交互和隐私保护测试的框架，允许对任何训练好的模型进行公平程度认证，无论其训练过程和架构如何，并提供加密技术自动进行公平测试和认证推理，同时隐藏参与者敏感数据。此外，在线bootstrap方法可构建置信区间评估在线学习分类器的公平性。这些技术为公平性评估提供了隐私保护下的可靠工具。
公平性研究中的常见误区与挑战
文章讨论了自动化决策中公平性的概念和实现方式，指出当前公平机器学习范式存在错误推理、误导性陈述和可疑做法，并探讨了在存在群体差异的数据设置中，统计准确结果与群体相似结果之间的权衡。这提醒研究者和实践者需谨慎对待公平性指标，避免简单化处理，并关注公平干预可能加剧预测复杂性的问题。
Q&A
如何利用贝叶斯学习来平衡机器学习中的公平性和实用性？
通过贝叶斯学习估计样本预测的不确定性，并基于不确定性量化定义新的公平性-效用目标，从而同时优化公平性和实用性。实证发现低分类不确定性的样本更准确、更公平。
后期处理措施在哪些领域可以提高公平性而不牺牲准确性？
在教育、心理健康、刑事司法和住房安全等领域，使用后期处理措施可以显著提高公平性而不牺牲准确性。
有哪些方法可以处理流数据中的公平性与准确性权衡？
通过建立随机多目标优化问题，得到一组准确且平衡的Pareto前沿，以此权衡准确度和公平性，更高效地处理大量流数据。
如何对训练好的模型进行公平性认证并保护隐私？
使用基于交互和隐私保护测试的框架，允许对任何训练好的模型进行公平程度认证，无论其训练过程和架构如何，并提供加密技术自动进行公平测试和认证推理，同时隐藏参与者敏感数据。
因果贝叶斯网络和最优输运理论如何用于处理机器学习公平性问题？
提出一个统一框架处理不同情况和公平标准，介绍学习公平表示的方法和考虑敏感属性使用限制的技术，尤其适用于复杂的不公平场景。
如何设计机器学习管道以同时优化准确度、公平性和隐私？
采用中立性原则，使用FairDP-SGD和FairPATE方法，得到真正的Pareto前沿线，在优化准确度的同时不偏向公平性或隐私。
在线multiplier bootstrap方法如何评估在线学习算法的公平性？
该方法用于构建置信区间，评估通过在线SGD类型算法训练具有Disparate Impact和Disparate Mistreatment意识的线性二元分类器的公平性，并在合成和实际数据集上验证。
当前公平机器学习范式存在哪些常见错误和可疑做法？
存在错误推理、误导性陈述和可疑做法，并探讨了在存在群体差异的任何数据设置中，统计上准确结果和群体相似结果之间的权衡存在，并对未来领域提出建议。
多类分类中如何实现有理论保证的算法公平性？
提出一种基于数据驱动程序的算法公平性方法，给出最佳公平分类器的表达式，有理论保证，在合成和真实数据集上有效，具有预设不公平性水平的公平性保证，并能竞争性地完成二元和多类任务。
公平干预可能加剧预测复杂性，如何解决？
提出一种可应用于任何公平干预的集成算法，以解决预测复杂性加剧的挑战并确保更一致的预测。
