先进人工智能的社会适应
原文中文,约400字,阅读约需1分钟。发表于: 。存在的管理高级人工智能系统风险的策略通常关注于影响开发什么样的人工智能系统以及它们如何扩散。然而,随着高级人工智能开发者数量的增加,这种方法变得越来越不可行,并且阻碍了有益的和有害的用例。我们呼吁采用一种补充方法:提高社会对高级人工智能的适应能力,即减少特定级别的人工智能能力扩散所带来的预期负面影响。我们引入了一个概念框架,用于识别避免、防范和纠正潜在有害的人工智能系统使用的适应性干预措施,...
高级人工智能系统的风险管理策略需要关注开发和扩散,提高社会适应能力,减少负面影响。提出了适应性干预措施的概念框架,并给出了选举操纵、网络恐怖主义和人工智能决策者失控的例子。讨论了适应人工智能的三个步骤循环,并提出了具体建议。