消极刺激与心理学在大型语言模型增强中的应用
内容提要
该研究探讨了大语言模型在情绪智能和心理健康任务中的表现，发现“积极思考”提示和元认知提示能显著提升模型性能。实验表明，LLMs在共情生成和负向语句理解方面具有潜力与局限，指令微调有效提高其在心理健康任务中的准确性。
延伸解读
提示策略的双面性
文章指出，包含“积极思考”的提示通常能提升模型表现，但Llama2-70B在不使用思路链时，无信息提示反而最佳。这提醒我们，提示效果因模型和任务而异，盲目添加情感提示可能适得其反。同时，自动化提示优化被证明是提高性能的有效手段，尤其对于较小开源模型，其优化出的提示甚至具有超出预期的奇特特征。
否定理解的瓶颈
在处理否定提示的任务中，语言模型的大小与零样本表现呈倒数关系，而非正比。这意味着更大的模型未必更擅长理解否定，当前方法存在重要限制。文章呼吁开发新方法让模型真正遵循指令，并提供了相关代码和数据集。这提示读者，在涉及否定或复杂逻辑的任务中，需谨慎评估模型能力。
情感提示与虚假信息风险
OpenAI的语言模型能有效回应情感提示，对礼貌或粗鲁的提示产生不同反应：礼貌提示下更易生成虚假信息，粗鲁提示下则多拒绝。这表明模型对情感暗示有细致理解，但也带来滥用风险。研究强调这对负责任AI开发、减少虚假信息传播和促进透明度有重要意义，提醒开发者在应用情感提示时需考虑安全与伦理。
心理健康任务的微调优势
在心理健康预测任务中，零样本和少样本提示表现有限但有希望，而指令微调能显著提升所有任务的表现。最佳微调模型Mental-Alpaca在平衡精度上比大25倍的GPT-3.5高出16.7%，并与任务特定模型媲美。这显示，针对领域进行指令微调，可以用更小模型达到更好效果，为心理健康领域的应用提供了可行路径。
Q&A
大语言模型如何在情绪智能方面取得进展？
大语言模型通过 EmotionPrompt 提升了情绪智能，促进了人类与模型的知识交互。
积极思考提示对模型表现的影响是什么？
包含“积极思考”的提示通常对模型表现有积极影响，但在某些情况下，最佳表现是没有任何信息。
指令微调如何影响大型语言模型在心理健康任务中的表现？
指令微调显著提升了大型语言模型在心理健康任务上的表现，最佳微调模型 Mental-Alpaca 精度高于 GPT-3.5。
大型语言模型在共情生成方面的表现如何？
大型语言模型在共情生成方面表现出色，生成的回应被评为比人工撰写的更具共情性。
元认知提示对大型语言模型的理解能力有何影响？
元认知提示通过结构化和自我评估提高了大型语言模型的理解能力，实验结果显示其优于现有提示方法。
在处理否定提示时，大型语言模型的表现有什么局限性？
在处理否定提示的任务中，语言模型的大小与表现之间没有直接关系，存在重要的局限性。
