因果感知
内容提要
该文从因果推理视角综述机器学习公平性，提出FACE、FACT等非歧视标准与算法，指出因果公平定义常导致极端帕累托支配，存在数学局限。研究构建因果公平分析框架，结合深度学习与近似推理消除不公平路径效应，并讨论可辨识性、潜在结果框架及多层次公平问题，强调跨学科与人类认知验证。
延伸解读
因果公平的数学局限
文章指出，基于因果推理的非歧视标准（如FACE和FACT）在数学上常导致极端帕累托支配的决策方案，这揭示了因果公平性普遍数学概念的形式限制和潜在不良后果。这意味着追求因果公平可能使决策方案走向极端，而非平衡各方利益，读者需警惕其实际应用中的局限性。
FACT与FACE的微妙差异
研究引入了基于因果关系的群体公平定义FACE和FACT，并利用鲁宾-尼曼潜在结果框架进行稳健估计。在真实数据集上，FACT比FACE更微妙，不同情形下可能得出不同结论。这表明公平性度量并非绝对，选择哪种标准需结合具体场景，并注意其可能带来的不同政策含义。
跨学科验证的必要性
文章强调，公平性研究往往不能充分捕捉现实世界的复杂性和人类认知。社会规划者不仅应认为公平解可取，还应以人类和社会认知为基础，考虑基于人类判断的感知结果，并进行验证。这需要从计算和人工智能到行为经济学、人机交互等广泛跨学科方法，并指出了当前文献的不足和开放研究方向。
实际应用中的挑战
因果推理对于评估公平性至关重要，尤其在自动化决策和合法反歧视程序中。然而，在实践中应用因果关系面临挑战和限制，如可辨识性问题、潜在结果框架的适用性等。文章综合报告了不同方法，并提供了指南帮助选择适合特定场景的公平性概念，还根据Pearl的因果推理难度对公平性概念进行了排名。
Q&A
因果公平性定义存在哪些数学局限性？
因果公平性定义几乎总是以极端帕累托支配的决策方案结束，这突显了其普遍数学概念的形式限制和潜在的不良后果。
FACE和FACT是什么？它们有什么区别？
FACE和FACT是基于因果关系的群体公平的两个定义，通过鲁宾-尼曼潜在结果框架进行鲁棒估算。在真实数据集上，FACT比FACE更微妙，在不同情形下可得出不同结论。
如何利用因果方法消除不公平路径效应？
针对敏感因素同时影响公平和不公平决策的情境，采用因果学方法来消除不公平路径效应，并利用深度学习和近似推理实现了一个广泛适用于复杂非线性场景的解决方案。
因果公平性分析框架的主要目标是什么？
该框架旨在理解、建模和可能解决决策设置中的公平问题，核心挑战是挖掘潜在的因果机制，并将各种公平度量与结构机制和人口单位归因联系起来。
为什么公平性研究需要跨学科方法？
因为当前研究往往不能充分捕捉现实世界问题的复杂性和人们对公平性的认知。社会规划者应以人类和社会认知为基础，考虑基于人类判断的感知结果，并可以进行验证，这需要从计算和人工智能到行为经济学和人机交互等广泛跨学科的方法。
如何选择适合特定场景的公平性概念？
可以根据Pearl的因果推理难度对公平性概念进行排名，并参考针对采用观察数据估计因果量的不同方法（包括可辨识性和潜在结果框架）的综合报告，以帮助选择适合特定实际场景的公平性概念。
多层次公平性问题如何形式化描述和解决？
使用因果推断工具对多层次公平性问题进行形式化描述，并在考虑多层敏感属性的情况下，通过预测收入来演示公平性问题的重要性和解决方法。
