ControlLM: 为语言模型打造多样化个性
内容提要
本文综述多项研究，探讨大语言模型的人格特质。研究发现，GPT、BERT等模型可通过语境控制人格表现，普遍呈现高开放性、低外向性，参数越多越开放尽责。研究者提出人格对齐、个性编辑及无监督词典调整等方法，并关注其伦理影响与负责任使用。
延伸解读
模型人格的量化与可塑性
文章指出，通过心理测量测试可以量化大语言模型输出中的人格特质，且这些特质并非固定不变。例如，GPT-2和BERT等模型能通过语境控制人格表现，而参数更多的模型普遍表现出更高的开放性和尽责性。这意味着模型人格既受训练数据影响，也可通过外部输入进行调节，为个性化应用提供了基础。
人格编辑的技术路径
研究者探索了多种编辑模型人格的方法，包括无监督词典调整解码概率、基于个性化对话生成合成数据集，以及构建PersonalityEdit基准进行观点调整。这些方法大多无需更新模型参数，即可精细操纵人格特质，降低了定制成本，但也可能被滥用，需关注伦理边界。
组织场景下的人格对齐
文章提到，将LLM与人类用户对齐已超出基本对齐范畴，出现了“人格对齐”的概念。通过微调使AI人格适应组织角色，并设计专门的人格测试，有助于人机协同。但这也引发思考：如何确保AI人格符合组织价值观，同时避免偏见或操纵？这需要跨学科讨论和规范。
交互中的一致性与协调
在GPT-3.5上的实验显示，不同个性提示的LLM代理在协作写作中表现出不同程度的人格一致性和语言协调性。这表明模型人格在交互中可能动态变化，影响对话质量。未来需开发更稳健的方法，使LLM在交互环境中保持人性化且一致的个性，以提升用户体验。
Q&A
大语言模型通常表现出怎样的人格特质？
大型语言模型普遍表现出高度的开放性和低度的外向性，且参数越多越倾向于开放性和责任心。
有哪些方法可以控制或编辑大语言模型的人格？
研究者提出了多种方法，包括通过提供不同类型的语境精准控制模型表现、使用无监督构建的个性化词典在解码阶段调整预测概率、以及通过提示方式进行个性化训练等。
什么是人格对齐？
人格对齐是指将大型语言模型与人类用户对齐，超出基本对齐范畴，为语言模型提供特定人格特质，以适应组织角色和促进人机协同。
大语言模型的人格特质会因情境而变化吗？
是的，LLMs在不同情境下表达不同的价值观和人格特质，研究者使用心理学问卷证明了这一点。
如何评估大语言模型的人格特质？
可以使用心理测量测试，如基于大五人格模型的问卷、PVQ、VSM、IPIP等心理学问卷，以及零-shot分类器将文本回答分类到可量化的特征中。
大语言模型的人格研究有哪些伦理影响？
研究讨论了塑造模型人格的潜在应用和伦理影响，特别是关于负责任地使用LLM，以及模型可能捕捉人类偏见的问题。
