机器学习是否增加了额外的偏见？快速近似模型公平性
内容提要
本文探讨了机器学习中的公平性问题，提出了基于人类判断的“个体公正”度量模型，并讨论了不同公平性定义及其局限性。研究强调在决策中考虑风险估计的重要性，并展示了多种公平性评估和缓解技术的实证研究，指出现有机制的不足及其对健康差距的影响。
延伸解读
公平性定义的统计局限
文章指出，早期公平机器学习主要依赖反分类、分类平衡和校准三种定义，但这些定义存在重大统计局限性。它们可能无法全面捕捉公平性，甚至导致模型在满足数学定义时仍产生不公平结果。因此，仅靠这些定义不足以确保决策公平，需要更全面的评估框架。
风险估计优先于数学公平
文章强调，更倾向于根据最准确的风险估计对类似风险的人进行相似处理，而非单纯满足公平的数学定义。这种方法要求构建适当的风险估计，虽然需要大量努力，但能更贴近实际公平需求，避免因机械满足定义而忽视个体差异。
公平性干预的脆弱性
实证研究发现，许多公平性措施之间具有强相关性，但对数据集构成的波动敏感。这表明公平干预可能比以往认为的更脆弱，且部分优化技术会导致模型失公，尽管机器学习库中有公平控制机制，但这些机制未被记录。最佳降低失公的方法往往存在权衡和代价。
医疗决策中的公平挑战
在临床决策中，机器学习可能加剧健康差距。研究显示，惩罚组间预测分布差异时，几乎所有团体内的多项绩效指标都会降低，且算法公平性方法在消除健康差距方面仍存在许多未解决问题。这提示在医疗领域应用机器学习需谨慎权衡公平与性能。
Q&A
什么是个体公正近似度量模型？
个体公正近似度量模型是基于人类判断的解决方案，假定可以获得人类公正裁决者来评估个体相似性。
机器学习中的公平性问题有哪些定义？
机器学习中的公平性问题主要有反分类、分类平衡和校准三种定义，但这些定义存在统计局限性。
如何处理机器学习中的不公平性问题？
可以使用因果贝叶斯网络和最优输运理论来处理不公平性问题，并提出统一框架和学习公平表示的方法。
机器学习在临床决策中可能带来哪些风险？
机器学习可能加剧健康差距，尤其是在不同群体之间的预测分布差异方面。
公平性评估的实证研究结果如何？
实证研究发现，部分优化技术可能导致模型失公，尽管存在公平控制机制，但未被充分记录。
如何通过目标函数解决敏感特征的不公平性？
可以通过在目标函数中包含公平性来解决敏感特征的不公平性，提出新型公平回归和降维方法。
