人工智能风险分类解析 (AIR 2024): 从政府法规到企业政策
内容提要
本文探讨了人工智能（AI）技术的风险，提出了12种地缘政治风险分类，并结合欧盟AI法案进行政策评估。研究强调需要加强法规以减轻AI风险，特别是针对开源模型和军事用途的监管。建议通过全面的AI生命周期治理和责任分配来降低风险，并提供了分析AI灾难性风险的框架，以确保其负责任使用。
延伸解读
欧盟AI法案的局限与调整方向
文章指出，欧盟AI法案虽有望自上而下减少AI风险，但存在三处不足：开源模型被豁免、GPAI模型被划为系统风险的参数阈值过高、专用于军事目的的系统被排除在义务之外。这些例外可能削弱法案的覆盖范围，未来需针对这些缺口进行调整，以更全面地减轻风险。
以责任分配作为核心监管机制
研究建议将责任视为主要监管机制，并区分潜在危害的内生与外生因素，在开发者与使用者之间合理分配责任。这种方法不同于单纯的技术披露，能更直接地激励各方在AI生命周期中采取风险缓解措施，从而弥补现有监管的不足。
AI生命周期治理与定量评估思路
文章提出通过全面的AI生命周期治理来降低风险，并强调定量评估现有模型的风险。作者用评估房屋能源效率或医生根据测试评估患者健康状况作类比，说明这种思路可改善AI监管，使风险判断更系统化，而非仅依赖定性描述。
灾难性风险与强AI代理的不确定性
文章使用分层复杂系统框架建模AI风险，调查显示强AI代理情景存在更多不确定性，对AI对齐失败、影响寻求行为及多智能体环境的关注增加。这提示在分析可能威胁人类生存的风险时，需结合概率估计与定量因素，并平衡安全与通用性。
Q&A
人工智能的地缘政治风险有哪些分类？
人工智能的地缘政治风险分为四类：地缘压力、恶意使用、环境、社会和伦理风险以及隐私和信任侵犯。
欧盟AI法案如何影响人工智能风险管理？
欧盟AI法案通过前瞻性监管方法，旨在预防有害结果，并强调对数据质量和人工监督的批判性检查，有助于减少AI风险。
如何通过责任分配来减轻人工智能风险？
建议将责任视为主要监管机制，通过合理分配开发者和使用者之间的责任来减轻人工智能风险。
文章中提到的AI生命周期治理是什么？
AI生命周期治理是通过全面的管理方法来降低人工智能风险，强调定量评估现有模型的风险。
有哪些技术和政策解决方案可以应对AI灾难性风险？
文章提供了技术和政策解决方案，包括建立基于问责制的分类法和风险分析标准，以应对AI灾难性风险。
如何评估人工智能系统的风险？
可以通过建立AI系统评估框架，协调术语、鉴定要素和建立映射，以促进跨学科的合作和综合评估。
