负责任人工智能的良好实践：促进采用负责任且值得信赖的人工智能系统
内容提要
生成式人工智能的出现带来了变革和机会，但需要负责任地使用。负责任人工智能的良好实践包括建立多学科团队、教育培训、平衡能力和人类判断、减少偏见、提高透明度和可解释性、持续测试和评估、保护隐私、定义应用场景和保护知识产权。高管们需要采取措施以安全可信地利用人工智能，解决偏见问题，发挥潜力。
延伸解读
从技术到文化：负责任AI需要组织变革
文章强调，负责任人工智能的良好实践不仅限于技术层面，更侧重于组织和文化层面。这意味着企业不能仅靠技术团队，而需要领导层承诺、跨职能协作和持续的教育计划。建立多元化团队、将教育作为要务等实践，都指向一个核心：在组织内部培育负责任AI文化，才能确保AI系统的公平、透明和问责。
人机协作的三种模式：如何平衡AI能力与人类判断
文章提出，应根据AI系统决策的关键性和复杂性来确定人类参与水平，具体分为三种：人在环中（人类与AI共同决策）、人在环上（人类监督但不实时参与）、人优于环（人类掌握最终决策权）。这为组织在高风险场景中部署AI提供了可操作的框架，避免过度依赖AI导致错误。
减少偏见：数据与技术的双管齐下
文章指出，生成式AI的偏见可能来自训练数据或基础模型，并会在输出中放大。减少偏见需要双管齐下：一是使用多元化且具有广泛代表性的数据，覆盖不同观点和人群；二是在开发和部署全过程中采用预处理和后处理技术。这提醒组织，偏见治理是持续过程，而非一次性任务。
知识产权与隐私：生成式AI的合规红线
文章特别强调，生成式AI带来了复杂的知识产权挑战，包括输入输出版权、生成内容所有权和商业秘密保护。同时，必须遵循个人数据处理良好实践，实施匿名化技术，并考虑适用的隐私法规。组织需了解模型的数据流，确保输入不会以不希望的方式与第三方共享，这是合法使用AI的前提。
Q&A
什么是负责任人工智能的良好实践？
负责任人工智能的良好实践是一套指导方针和框架，旨在确保人工智能系统的使用符合公平性、透明度、问责制和隐私原则。这些实践不仅涉及技术层面，还涵盖组织和文化层面，包括建立多元化团队、教育培训、平衡人类判断、减少偏见、提高透明度和可解释性、持续测试、保护隐私、定义具体应用场景以及保护知识产权。
为什么生成式人工智能需要负责任地使用？
生成式人工智能具有强大的能力和广泛的普及性，带来了创新机会，但也可能放大偏见、产生错误输出，并引发隐私和知识产权等风险。因此，必须负责任地使用，以解决潜在偏见和危害，确保公平、透明、问责和隐私，从而安全可信地利用其变革潜力。
如何减少生成式人工智能中的偏见？
减少偏见需要双管齐下的方法：首先，在模型训练期间使用多元化且具有广泛代表性的数据，整合多个数据集以覆盖不同观点、背景和人群；其次，在开发和部署过程中采用减少偏见的技术，包括对数据预处理以减少偏见，以及实施后处理技术以促进生成公平且经过调整的输出。
在人工智能应用中如何平衡人类判断与AI能力？
应根据人工智能系统决策的关键性和复杂性来确定适当的人类参与水平。参与水平分为三种：人在环中（人类与AI共同决策）、人在环上（人类监督但不实时参与）和人优于环（人类掌握最终决策权）。人类具有因果推理、同理心和情境理解等素质，在复杂和高风险决策中至关重要，因此必须在AI能力和人类判断之间取得平衡。
为什么需要为生成式人工智能应用定义具体的应用场景？
为应用程序定义具体的高价值应用场景，而不是让生成式人工智能成为“百事通”，可以确立更明确的问责制和所有权，更轻松地实现透明度，并简化风险评估和缓解措施。此外，还能实施更具针对性的测试、监控和错误处理程序。
生成式人工智能带来了哪些知识产权挑战？
生成式人工智能带来了复杂的知识产权挑战，包括输入、输出和模型本身的版权问题、人工智能生成内容的所有权以及商业秘密保护。由于模型可以独立创作内容，模糊了传统创作者和所有者权益的边界。因此，需要仔细考虑知识产权法律框架，保护专有算法和流程作为商业秘密，并确保模型安全，防止输入与第三方不当共享。
