合作的、以人为中心的人工智能、算法和自动化危害分类
内容提要
本文探讨了人工智能可能导致人类灭绝的风险，提出了基于问责制的分类法，并呼吁政府调整法规以应对AI创新。研究分析了人机交互模式，强调以人为中心的AI发展，提出了AI伦理和安全风险的框架，识别了12种地缘政治风险，并建议通过跨部门合作推动AI安全。
延伸解读
从问责制到风险分类：AI治理的路径
文章指出，AI风险治理需要基于问责制的分类法，并呼吁政府调整法规以适应创新。这反映了当前AI治理从原则倡导转向具体制度设计的趋势。通过分类法明确责任归属，有助于在技术发展与社会危害之间建立可操作的监管框架，但如何平衡创新与安全仍是政策难点。
人机交互的现状与以人为中心的设计
研究通过对105篇文章的系统综述发现，现有人机交互主要是简单的合作模式，对真正交互功能的支持较少。这提示当前AI决策支持系统多侧重技术效率，而忽视了算法输出与人类期望的一致性。以人为中心的AI发展需要更多关注交互设计，促进有意选择，而非默认的技术驱动。
地缘政治风险与欧盟AI法案的局限
文章识别出12种地缘政治风险，分为地缘压力、恶意使用、环境社会伦理风险及隐私信任侵犯四类。结合2023年3月通过的欧盟AI法案进行评估，认为其有望自上而下减少风险，但存在开源模型例外、GPAI系统风险参数过高、军事系统排除等不足，需进一步调整法规以全面减轻风险。
综合风险分类法：跨部门合作的基石
文章提出一个综合AI风险分类法，源自欧盟、美国、中国八项政府政策及全球16家公司政策，识别出314个独特风险类别，组织为系统与运营、内容安全、社会、法律与权利四层次。该框架旨在通过跨部门信息共享和最佳实践推动AI安全，为生成式AI安全评估建立统一语言。
Q&A
人工智能可能导致人类灭绝的风险有哪些？
人工智能可能导致的灭绝风险包括未被预见的社会危害，具体风险类型通过基于问责制的分类法进行识别。
如何推动以人为中心的人工智能发展？
推动以人为中心的人工智能发展需要强调算法输出与人类期望的一致性，并倡导可解释的人工智能。
文章中提到的地缘政治风险有哪些？
文章识别了12种地缘政治风险，分为地缘压力、恶意使用、环境、社会和伦理风险以及隐私和信任侵犯。
政府应如何调整法规以应对人工智能的创新？
政府应逐步适应现有法规，以更全面地减轻人工智能带来的风险，并结合欧盟AI法案进行政策评估。
如何理解人与人工智能的交互模式？
通过对105篇文章的系统综述，提出了一种交互模式分类系统，以深入研究不同的人机交互方式。
文章提出的AI风险分类法有哪些层次？
文章提出的AI风险分类法包括系统与运营风险、内容安全风险、社会风险和法律与权利风险，组织成四个层次。
