公平和追索中的反事实推理的新范型
内容提要
本文综述因果推断与反事实推理在机器学习公平性中的应用，涵盖保险、贷款、雇佣、执法、医疗等领域，提出LocalFACE、贝叶斯层级模型等模型与算法，用于检测偏见、生成可操作解释并权衡公平与预测性能，同时提醒高风险领域慎用反事实。
延伸解读
反事实推理在公平性中的双重角色
文章显示，反事实推理既可用于检测偏见，也能生成可操作解释。例如LocalFACE通过局部信息构建反事实解释，而贝叶斯层级模型则处理连续设置中的不确定性。但文章也提醒，过度使用反事实可能导致错误结论，尤其在种族、性别等社会类别上。因此，反事实是一把双刃剑，需结合具体场景谨慎应用。
公平与预测性能的权衡方法
文章提到，通过变分自动编码器执行反事实推理，可以在生成模型背景下权衡公平维护与预测性能下降。这为实际部署提供了思路：不是简单追求绝对公平，而是在可接受的性能损失内调整模型。但文章未给出具体权衡阈值，实际应用中需根据领域风险自行设定。
高风险领域应用需谨慎
文章明确指出，在保险、贷款、雇佣、执法、医疗等高风险领域，应慎用反事实推理。因为对社会类别进行因果推断所需的反事实可能带来困扰，甚至导致错误结论。这提示从业者，在将这些技术落地前，必须评估其潜在危害，并优先考虑可解释性和稳健性。
Q&A
反事实推理在机器学习公平性中主要用来做什么？
反事实推理在机器学习公平性中主要用于检测偏见、生成可操作解释，并帮助在公平与预测性能之间进行权衡。它被应用于保险、贷款、雇佣、执法和医疗等领域，以避免不公正决策。
LocalFACE 是什么？它有什么特点？
LocalFACE 是一种模型不可知的技术，通过局部获取的信息在每个算法补偿步骤中构建可行且可操作的反事实解释，用于使人工智能系统具有可解释性。
为什么在高风险领域使用反事实推理需要谨慎？
因为过度使用对社会类别（如种族或性别）进行因果推断所需的反事实可能导致困扰和错误结论，所以在涉及高风险领域的算法公平和社交解释方面应谨慎使用因果反事实。
贝叶斯层级模型如何解决反事实分布中的问题？
贝叶斯层级模型通过建模不确定性，解决了连续设置中对反事实分布的模棱两可性问题，特别是在贝叶斯变形高斯过程中允许非高斯分布和非加法噪声，并成功应用于合成和半合成案例，展示了在算法补救下游任务中的性能。
反事实度量与标准公平度量有何关系？
反事实度量更适合在决策上下文中使用；标准公平度量和反事实度量两者仅在特定条件下才能同时成立。文章提供了理论结果和实证结果证明反事实度量方法优于标准做法。
在医疗保健中，如何利用反事实推理开发公平模型？
通过使用电子医疗记录中的观察性数据，进一步发展组公平性标准，在个体层面上扩展增益计数事实公正标准，并利用假设因果图的变分自动编码器执行反事实推理，从而在公平维护与预测性能下降之间进行权衡。
