EARN 公平：在利益相关者之间解释、询问、评审和协商人工智能公平度量
内容提要
本文探讨了人工智能系统的公平性问题，提出了“公平度量罗盘”工具，以帮助选择适当的公平标准。研究强调了利益相关者的主观公平观念，并提出了新的公平认证框架，确保AI系统的公正性。文章总结了多种方法和技术，提供实用指南，旨在平衡公平性与模型准确性，促进AI领域的公平性研究。
延伸解读
公平度量选择需要结构化工具
文章指出，由于缺乏统一的公平概念，为特定应用选择最合适的公平度量标准成为实现可持续公正的关键问题。为此，作者提出了“公平度量罗盘”，旨在形式化选择过程，简化公平定义的选择，并帮助解释和证明所采取公平措施的理由。这一工具为实践者提供了系统化的决策支持。
利益相关者的主观公平观念不容忽视
研究强调，公平不仅是技术问题，还涉及利益相关者的主观观念。作者提出了一种结合用户界面和采访协议的框架，用于捕捉利益相关者的公平观点，并在儿童虐待预测系统的用户研究中验证了其有效性。结果表明，该框架能全面传达利益相关者的公平观点，对预测系统的设计具有启示意义。
公平认证与标准操作程序
为了确保人工智能系统的公平性并避免偏见，文章提出了一种新的公平得分和标准操作程序，用于发放公平认证。该认证框架在商业部署中具有操作性和促进公平概念的优点。通过多个数据集迭代训练模型并比较受保护属性中的偏见，验证了框架的正确性。
可解释人工智能与公正性期望的对应
文章指出，可解释人工智能被视为提高系统公正性的有希望的方法，但可解释性方法与公正性概念多样，且两者联系模糊。作者概括了八项公正性期望，将其与人工智能生命周期相联系，并讨论了可解释人工智能如何帮助解决每项期望，为实际应用提供方向。
Q&A
什么是公平度量罗盘，它的作用是什么？
公平度量罗盘是一个工具，用于形式化选择过程并简化特定系统的公平定义，帮助选择适当的公平标准。
如何确保人工智能系统的公平性？
通过提出新的公平得分和标准操作程序，发放公平认证，以避免偏见并提高系统的可信度。
文章中提到的利益相关者的主观公平观念是如何应用的？
研究利用用户界面和采访协议框架，考虑利益相关者的主观公平观念，并应用于儿童虐待预测系统的用户研究中。
有哪些方法可以评估人工智能系统的偏见？
文章总结了多种方法和技术，提供实用指南，定义、衡量和预防人工智能偏见，并提出更复杂的替代方案。
可解释的人工智能如何提高系统的公正性？
可解释的人工智能方法可以增强分类系统的可解释性和公平性，帮助识别和缓解社会偏见。
文章中提到的社会中心方法有什么作用？
社会中心方法帮助项目团队识别、减轻和处理人工智能项目中的不公平偏见和歧视。
