基于身份驱动的层次角色扮演代理
内容提要
本文探讨了如何利用大型语言模型（LLM）构建角色扮演对话数据集，并评估其角色扮演能力。研究开发了RoleBench和RoleInteract基准，涵盖多种角色和对话示例，揭示个体与群体互动中的表现差异。此外，提出了通过MORTISE改进角色对齐能力的策略，强调LLM在模拟人类行为和社会信念方面的潜力。
延伸解读
角色扮演评估的双层视角
文章指出，RoleInteract基准从个体和群体两个层面评估角色扮演代理的社交性。研究发现，在个体层面表现优异的代理，在群体互动中可能并不熟练，且个体行为会受到群体内其他代理的影响而发生漂移。这提示我们，评估角色扮演能力时不能仅关注单角色对话，还需考察多代理互动中的动态变化。
角色对齐的改进策略
针对角色对齐能力的普遍不足，文章提出了MORTISE方法，通过构建高度角色相关的攻击性查询，并利用多个基于LLM的模块协同生成回复，形成对抗性训练数据集RoleAD。实验表明，经过RoleAD改进的模型在提升角色对齐能力方面表现出一定的泛化性，这为增强角色扮演LLM的鲁棒性提供了新思路。
基准数据集的规模与意义
RoleBench是首个系统且细致的基于角色的基准数据集，包含168,093个样本，支持中英文角色扮演能力的评估与增强。RoleInteract则覆盖500个角色、超过6,000个问题提示和30,800个多轮对话，为系统评估角色扮演代理的社交互动提供了测试平台。这些基准的建立推动了角色扮演对话研究的标准化。
Q&A
如何利用大型语言模型构建角色扮演对话数据集？
通过设计框架并使用特征性数据，结合大型语言模型（LLM）来训练和评估角色扮演能力，形成系统性的数据集。
RoleBench和RoleInteract的主要功能是什么？
RoleBench是第一个系统性和细致的基于角色的基准数据集，包含168,093个样本；RoleInteract则评估角色扮演对话代理的社交性，涵盖500个角色和超过6,000个问题提示。
个体与群体在角色扮演中的表现有何不同？
研究表明，个体水平表现优秀的代理在群体水平上可能表现不佳，个体行为受群体影响。
MORTISE在角色扮演中的作用是什么？
MORTISE被设计用来改进角色扮演LLMs的性能，构建具有高度角色相关性的攻击性查询，提升角色对齐能力。
大型语言模型在模拟人类行为方面的潜力如何？
研究表明，LLMs能够在上下文中扮演不同角色，揭示其潜在优势和偏见，能够更好地模拟人类行为。
如何改进对话代理的自然性和真实感？
通过将人类特质投射于对话代理，并应用角色扮演的概念，可以更好地描述对话代理的行为，实现更加真实自然的对话交互。
