算法何时应辞职？
内容提要
本文综述人工智能治理与伦理研究，涵盖AI风险、算法多元化、负责任算法框架、软件工程路线图、公平透明隐私、算法回溯与追索、设计模式及组织内部RAI治理，强调多级治理、利益相关者参与和系统级指导，以确保AI符合社会价值观。
延伸解读
算法多元化的价值与挑战
文章提出算法多元化概念，旨在应对人工智能中介时代可能带来的中立性问题。通过借鉴媒体多元化的文献，作者认为算法多元化有助于维护多样性、多元性和包容性，这对民主至关重要。然而，实施算法多元化需慎重和负责任，需权衡其优势与挑战，避免简单化处理。
负责任AI的软件工程路线图
文章强调为负责AI制定软件工程路线图，关注多级治理、嵌入过程性实践的开发流程，以及通过体系结构风格、模式和技术构建设计负责AI系统。这为开发人员提供了系统级指导，弥补了以往缺失的元素，有助于将伦理原则转化为具体工程实践。
组织内部RAI治理的多样性
研究访谈了来自学术、政府、行业和非营利组织的17名技术参与者，发现组织对RAI的定义和内部治理方法多样。金融行业具备健全的模型治理，医疗领域出现类似ARB的审查委员会。研究表明ARB是更有影响力的内部RAI治理方法，为组织建立自己的RAI框架提供了建议。
算法追索在变化环境中的可靠性
文章指出，过去算法追索文献多关注为单个个体提供追索，忽视环境变化的影响。通过基于代理的仿真框架，研究发现只有一小部分参数设置能使算法追索随时间可靠。因此，需要大量工作来理解追索可靠性，并开发能奖励代理努力的追索方法。
Q&A
什么是AI治理框架？它主要用来解决哪些风险？
AI治理框架是一种确保人工智能负责任使用的框架，旨在避免和减轻监管、合规性、声誉、用户信任、财务和社会风险。
算法多元化是什么？为什么它对民主很重要？
算法多元化是指以慎重和负责任的方式实施算法或人工智能的多元化，以维护多样性、多元性和包容性，这对民主至关重要。
开发负责任的人工智能算法有哪些意义和方法？
开发Socially Responsible AI Algorithms框架的意义在于实现人工智能的可信赖，从而提高人类社会的福祉。
负责任AI的软件工程路线图关注哪些方面？
该路线图关注多级治理、嵌入过程性实践的开发流程，以及通过体系结构风格、模式和技术构建设计负责AI系统。
算法回溯除了精度和鲁棒性，还应考虑哪些价值观？
算法回溯还应考虑公平、隐私、责任和可解释性等价值观。
组织内部负责任AI治理中，哪种方法更有影响力？
研究表明，ARB（算法审查委员会）是更有影响力的内部RAI治理方法。
算法追索的可靠性随时间变化吗？
是的，研究发现只有一小部分具体的参数设置才能使算法追索随时间可靠，因此还需要大量工作来了解追索可靠性并开发能奖励代理努力的追索方法。
