LLMs 的多彩未来：评估和改进 LLMs 作为酷儿青少年的情感支持耠
内容提要
大型语言模型在心理健康领域应用广泛，包括构建情感支持对话数据集、评估自杀风险、模拟心理治疗行为及生成共情回应。研究显示其行为接近低质量治疗师，需改进；用户访谈表明其可填补护理空白，但存在文化限制。模型有助于心理学研究与自闭症治疗，但需警惕幻觉、隐私等伦理风险，应作为辅助而非替代人类专家。
延伸解读
LLM作为情感支持工具的现状与局限
文章指出，LLM在心理健康支持中展现出潜力，但行为更接近低质量治疗师，需进一步研究确保质量。用户访谈显示，LLM聊天机器人能填补日常护理空白，但存在文化限制。因此，LLM应作为辅助而非替代人类专家，因其可能产生幻觉输出，且人类的情感理解与背景意识不可替代。
隐私与成本效益的平衡
针对自杀风险评估的研究强调使用本地运行的开源LLM，以增强数据隐私，并优先选择计算要求低的模型，使其对有限计算预算的机构可用。仅依靠精心设计的提示和语法指导文本补全，评估指标显示卓越结果，成为关注隐私和成本效益的重要方法。
评估LLM治疗师行为的新框架
BOLT框架通过上下文学习方法，定量测量LLM在13种心理治疗技术上的行为，并比较其与高低质量人类治疗师的差异。研究发现LLM行为更接近低质量治疗，需调整以体现高质量治疗行为。这为改进LLM在治疗角色中的表现提供了量化依据。
伦理考量与负责任使用
文章多次强调伦理风险，包括数据隐私、幻觉输出及在敏感领域部署的潜在后果。研究人员应负责任地使用LLM，遵守伦理标准。在自闭症青少年治疗中，LLM显示出情感共鸣优势，但实现人类治疗师的个性化与情感理解深度仍是挑战，需持续发展并重视伦理。
Q&A
大型语言模型在心理健康支持中主要有哪些应用？
大型语言模型在心理健康支持中的应用包括：构建情感支持对话数据集、评估自杀风险、模拟心理治疗行为、生成共情回应、提供在线心理咨询问答、进行心理咨询工作联结评估，以及支持自闭症青少年的互动语言治疗。
LLM作为治疗师的表现与人类治疗师相比如何？
研究发现，LLM治疗师的行为更接近低质量人类治疗师，需要进一步研究来确保质量治疗。但LLM在大多数情景中表现出更高的同理心，不过在个性化和情感理解深度上仍面临挑战。
使用LLM进行心理健康支持存在哪些风险或限制？
风险包括可能产生幻觉般的输出、数据隐私问题、伦理挑战，以及文化限制。人类辅导员的情感理解、细致解读和背景意识仍然不可替代，因此LLM应作为辅助而非替代人类专家。
用户如何评价LLM聊天机器人在心理健康支持中的体验？
通过对21位来自不同国家背景的个体进行访谈，研究发现用户为聊天机器人创造独特的支持角色，填补日常护理的空白，并在寻求支持时应对相关的文化限制。研究基于心理治疗文献中的有效支持概念，提出了治疗性对齐的概念。
LLM在心理学研究中可以发挥哪些作用？
LLM可以用于文献综述、假设生成、实验设计、实验对象选择、数据分析、学术写作和同行评审，并在认知与行为心理学、临床与咨询心理学、教育与发展心理学以及社会与文化心理学等多个领域产生影响。
如何评估LLM在心理咨询中的质量？
可以结合指南，使用大型语言模型进行心理咨询工作联结评估的自动方法，该方法与人工评估具有高度一致性，能提供经济实惠且可靠的咨询质量评估手段。
