评估“宪法”在学习AI反馈中的作用

本研究探讨了用于训练和评估大型语言模型（LLMs）的AI反馈中“宪法”的作用，尤其关注其对医疗访谈中以患者为中心的沟通的影响。通过215名人类评审者的配对比较，研究发现详细的宪法能提升情感质量，但在信息收集和提供等实用技能学习上表现不佳，表明在某些领域AI反馈作为奖励信号的有效性存在局限。