推动人工智能和机器人的平等敏捷研究与开发
内容提要
文章主张将多样性作为算法公平的核心，提出提升AI包容性的措施。研究包括：用生成式AI模拟多元用户需求；梳理AI多样性与包容性的55项挑战和33项解决方案；指出多数负责任AI框架仅覆盖需求阶段，缺乏全生命周期综合框架；揭示从业者落实负责任AI价值观时的组织协作困难；强调AI需文化响应式发展，并借鉴安全开发生命周期解决公正与伦理问题。
延伸解读
多样性为何是算法公平的起点
文章开篇即主张将多样性作为核心优先事项，认为这是实现算法公平所追求的不歧视和公正目标的前提。这意味着，若开发团队和需求分析缺乏多元视角，算法偏见便难以被识别和纠正。文章进一步为计算机科学从业者提供了具体的多样性措施建议，试图从人员构成和流程设计上提升算法公平的实践水平。这一立场将多样性从道德倡导转化为技术实践的必要条件。
负责任AI框架的覆盖缺口
文章梳理现有负责任AI框架后发现，大多数框架仅适用于需求调查阶段，只有少数私人公司提供了支持工具。这表明，从需求到部署的全生命周期中，公正、可解释和伦理等原则缺乏连贯的落地指引。文章指出，目前还缺乏一个全面框架，能涵盖所有负责任AI原则和所有软件开发生命周期阶段，并可供不同技能与目标的用户使用。这一缺口是当前实践中的关键瓶颈。
从业者落地RAI价值观的组织困境
文章通过访谈10个组织的23名从业者发现，自上而下和自下而上的机构结构都会给不同角色带来负担，阻碍他们遵循负责任AI价值观。当需要执行相互冲突的价值观时，挑战进一步加剧。从业者使用多种价值杠杆来应对，但文章认为，仍需在包容与公平的RAI价值实践、支持性组织结构以及对从业者的进一步帮助方面做出改进。这说明，价值观落地不仅是技术问题，更是组织协作问题。
文化响应式AI与跨学科路径
文章强调人工智能算法面临社会文化和伦理挑战，必须进行文化响应式发展，以提高系统适应当代多元文化社会需求的能力。文章还提出，需要进一步跨学科研究来有效解决这些挑战，并强调在AI培育和推动中重视文化责任。此外，文章借鉴信息安全领域的安全开发生命周期概念，将其应用于AI系统开发，以解决公正度、可解释性和科技伦理等问题，为文化响应式发展提供了可操作的框架思路。
Q&A
为什么说多样性是算法公平的核心？
文章主张将多样性作为核心优先事项，以实现算法公平所追求的不歧视和公正目标，并为计算机科学从业人员提供具体的多样性措施建议，以增加多样性并提高算法公平的实践水平。
生成式AI如何帮助实现包容性的人工智能开发？
文章提出了一种利用生成人工智能（GenAI）进行基于角色的模拟的工具框架愿景，旨在促进需求分析过程中对多样化用户需求的表示，从而为人工智能软件的开发过程提供详细的用户叙述，以发展一种包容性的人工智能范式，确保未来的技术进步符合多样人类群体的需求。
人工智能中的多样性和包容性面临哪些挑战和解决方案？
一项系统回顾研究挖掘了与人工智能中的多样性和包容性相关的挑战和解决方案，结果包括55个关于多样性和包容性的独特挑战和33个解决方案，以及24个关于使用人工智能来增强这些实践的独特挑战和23个解决方案。
现有的负责任AI框架存在什么不足？
文章发现大多数负责任AI框架仅适用于需求调查阶段，仅有一些私人公司提供了支持工具。结果表明，还缺乏一个全面的框架，该框架包含所有负责任AI的原则和所有SDLC阶段，并可由不同技能集和不同目标的用户浏览。
从业者在落实负责任AI价值观时遇到哪些困难？
研究通过采访10个组织的23名个体发现，自上而下和自下而上的机构结构都给不同角色带来了负担，阻碍他们遵循RAI价值观，而在执行冲突价值观时，这个挑战进一步加剧。从业者使用了多个价值杠杆来解决挑战，文章提出了关于包容与公平的RAI价值实践、支持性组织结构以及对从业者的进一步帮助的建议。
如何将安全开发生命周期应用于AI系统以解决伦理问题？
文章提出了一个框架，将信息安全领域和安全开发生命周期的概念应用到人工智能系统的开发中，以解决公正度、可解释性和科技伦理等方面的问题。
