公众对社会规模 AI 风险感知的治理意涵
内容提要
本文探讨了人工智能技术的风险，包括社会伤害和失控问题，并提出了负责任的AI开发和治理框架。研究表明公众支持负责任的AI使用，强调提高社会适应能力以应对潜在负面影响。建议建立国际AI联盟，促进风险评估和公众参与，确保AI技术的公平和有效实施。
延伸解读
公众风险感知的跨国差异
文章引用了一项覆盖八个国家、六个大洲、10005名受访者的调查，发现公众对人工智能的情感可归纳为兴奋、有用、担忧和未来主义四个主题，且这些主题的普遍性在不同国家间存在差异。这表明风险感知并非全球一致，治理框架需考虑地域文化背景，而非采用单一标准。
从控制研发到增强社会适应力
传统策略试图通过影响人工智能系统的开发类型和扩散方式来管理风险，但随着开发者数量增加，这种方法越来越不可行。文章提出补充方法：提高社会对高级人工智能的适应能力，即减少特定能力扩散带来的预期负面影响，并引入避免、防范和纠正的适应性干预框架。
国际联盟与公众参与的双重路径
文章建议建立国际AI联盟，负责风险评估、监管和规范高级人工智能系统，以缓解社会规模风险并协调评估反应。同时强调公众参与对捕捉多元视角和促进公平实践至关重要，并指出基于文化共识理论的研究能为开发者和政策制定者提供个体差异与群体文化视角的洞察。
跨学科与全球理解的治理基础
文章指出人工智能创新常忽视潜在危害与社会背景，导致社会技术问题，因此需要计算机科学与社会学科更紧密的联系。此外，对五个全球地区的社会影响综述强调，应加强对全球范围内人工智能对社会各方面影响的理解，以便研发、实施和监测负责任的技术并制定规章。
Q&A
人工智能技术面临哪些主要风险？
人工智能技术面临大规模社会伤害、恶意使用和失控风险。
公众对负责任的人工智能开发持什么态度？
公众普遍支持负责任的人工智能开发，认为其对社会有重大影响。
如何提高社会对高级人工智能的适应能力？
建议通过实施适应性干预措施和增强社会韧性来提高适应能力。
建立国际AI联盟的目的是什么？
建立国际AI联盟旨在监管和规范高级人工智能系统，缓解社会规模的风险。
文章中提到的适应人工智能的三个步骤是什么？
文章提到的三个步骤包括识别、避免和纠正潜在有害的人工智能系统使用。
如何促进公众参与人工智能的治理？
通过捕捉多元视角和促进公平实践，公众参与对负责任的人工智能治理至关重要。
