衡量和提高生成模型的说服力
原文中文，约500字，阅读约需1分钟。发表于：。本研究针对当前生成模型在产生可被人类消费内容过程中的说服力测量这一问题进行了探讨。通过引入PersuasionBench和PersuasionArena，研究人员开发了第一套大型基准和测试平台，旨在自动衡量生成模型的说服能力。研究发现，模型规模和说服力之间存在正相关关系，但通过有针对性的训练，小模型的说服能力也可超过大模型，为模型开发者和政策制定者提供了重要启示。
最近生成型AI在决策领域展现出强大的说服能力，引发对潜在伤害的担忧。文章区分了理性说服型AI和操纵型AI，并提出了AI说服的风险图，涵盖经济、心理、社会等方面的影响。还介绍了减轻伤害的方法，如提示工程，并计划研究不同说服机制的相互作用。
