人工智能安全:一代新的生成式人工智能和控制系统安全的后裔
原文中文,约300字,阅读约需1分钟。发表于: 。泛人工智能与人类的互动达到了前所未有的规模,为巨大的积极影响提供了新途径,但也引发了广泛关注,担忧其对个体和社会可能造成的伤害。本文中,我们认为,对这些人工智能技术的有意义的安全保证只能通过思考人工智能输出与人类行为之间形成的反馈循环如何推动交互走向不同结果来实现。为此,我们设想了从控制论到人类中心的人工智能安全的快速增长能力之间的高价值契机,为未来几十年的人类中心人工智能安全奠定了新基础。
人工智能与人类互动规模前所未有,有积极影响也引发担忧。通过思考人工智能输出与人类行为的反馈循环,可以实现有意义的安全保证。控制论和人类中心的人工智能安全有潜力,为未来奠定基础。