算法追责中的公平：以实质机会平等为视角
内容提要
该文综述算法公正与追索研究，涵盖补救公正、反事实公正、努力平等及动态环境下的追索可靠性，强调因果与价值观，并提出优化方法以减少歧视。
延伸解读
算法追责的多元视角
文章综述了算法公正与追索研究，涵盖补救公正、反事实公正、努力平等及动态环境下的追索可靠性。这些视角从不同角度探讨算法追责，强调因果与价值观，并提出了优化方法以减少歧视。读者可借此了解该领域的多样性和复杂性。
动态环境下的追索可靠性
文章指出，不断变化的环境对算法追索有重要影响。基于代理的仿真研究表明，只有一小部分参数设置能使追索随时间可靠。这意味着在实际应用中，追索机制需要适应环境变化，否则可能失效。这一发现提醒我们，追索设计不能忽视动态性。
努力平等：一种新的公平判定
文章提出基于因果关系的公平判定方法——努力平等。它不仅关注群体间决策差异，还回答合法性变量应如何随个体结果水平变化，以及不同群体实现相同结果所需努力是否不同。实验表明，该方法比现有公平概念更有效，为消除歧视提供了新思路。
Q&A
什么是算法追责中的补救公正？
补救公正是一种算法公正性准则，它从补救行动的角度出发，明确考虑特征之间的因果关系，从而捕捉在物理世界中执行的补救行动的下游效应。
补救公正与反事实公正性有什么关系？
文章探讨了补救公正与反事实公正性的关系，并证明了补救公正性与预测公正性互补。
不断变化的环境如何影响算法追索的可靠性？
文章提出了一个基于代理的仿真框架来研究不断变化的环境对算法追索的影响。研究发现，只有一小部分具体的参数设置才能使算法追索随时间可靠。因此，需要大量工作来了解随时间的追索可靠性，并开发能够奖励代理努力的追索方法。
努力平等这一公平概念是什么？
努力平等是一种基于因果关系的公平判定方法。与现有公平概念不同，它不仅关注两个群体之间的决策差异，还帮助回答当特定个体实现特定结果水平时，应合理变化的合法性变量的程度，以及保护组和无保护组个体实现相同结果水平所做的努力是否不同等问题。研究团队开发了算法来确定在平等的努力方面是否存在歧视，并发展了一种基于优化的方法，用来消除数据中的歧视影响。实验结果表明，与现有的公平概念相比，努力平等的算法更为有效。
算法追责中如何通过社会干预解决公平性违规问题？
文章讨论了是否可以通过社会干预来更好地解决数据生成过程中的公平性违规问题，而不是限制分类器。
算法追索中隐私泄露的风险是什么？
文章探讨了对算法提供诉求时对于隐私泄露的重要风险，通过membership inference attacks方法将对算法使用的数据的私密信息泄露。
