LLM 指令微调的提示权重实验
内容提要
多项研究表明：指令微调可提升大语言模型零样本能力，但处理陌生指令时性能下降；少量多样样本即可取得良好效果。在心理健康预测中，微调模型Mental-Alpaca显著优于GPT-3.5，但指令调整可能削弱心理语言学预测能力。医学NLP任务中零样本表现接近先进水平，分类和关系抽取仍较弱。
延伸解读
指令微调的双面性：提升与削弱
文章指出，指令微调能显著提升大语言模型在心理健康预测等任务上的表现，如Mental-Alpaca在平衡精度上比GPT-3.5高出16.7%。然而，微调也可能削弱模型在心理语言学预测上的能力，表明指令调整在提升任务性能的同时，可能损害模型对语言认知的建模能力。
陌生指令下的性能下降与稳健性差异
研究表明，指令微调后的模型在处理陌生指令时性能显著下降，且对关系抽取指令的稳健性较问答指令更差。这提示在实际应用中，需关注模型对未见指令的泛化能力，不同任务类型的稳健性可能存在差异。
少量多样样本的高效微调
文章提到，仅需1k-6k个指令微调样本的子集，就能在传统NLP基准和基于模型的评估上取得良好性能。混合教科书形式和开放式问答数据集可优化微调效果，这为资源有限场景下的模型适配提供了实用参考。
医学NLP任务中的表现与局限
在医学NLP任务中，评估的指令微调模型在零样本和少样本场景下已接近最先进水平，尤其在问答任务中表现出色。但在分类和关系抽取任务上，其性能仍低于专门训练的领域模型（如PubMedBERT），且没有单一模型在所有任务中占优。
Q&A
指令微调能提升大语言模型的零样本能力吗？
多项研究表明，指令微调可以增强大语言模型在未知任务上的零样本功能，但在处理陌生指令时性能会显著下降。
指令微调需要多少样本才能取得好效果？
研究发现，1k-6k 个指令微调样本的子集足以在传统 NLP 基准测试和基于模型的评估上取得良好性能。
在心理健康预测任务中，微调后的模型表现如何？
最佳微调模型 Mental-Alpaca 在平衡精度上比 GPT-3.5（规模大 25 倍）高出 16.7%，并与最先进的任务特定模型相媲美。
指令微调对心理语言学预测能力有什么影响？
为了提供人类首选回答而进行的指令调整反而降低了大型语言模型在计算心理语言学视角下的心理测量预测能力。
在医学NLP任务中，指令微调模型的表现如何？
评估的语言模型在大多数任务的零样本和少样本场景中已经接近最先进模型的性能，尤其在QA任务中表现出色，但分类和关系抽取任务的性能低于专门训练用于医学领域的模型（如PubMedBERT）。
指令微调模型在处理陌生指令时表现如何？
在处理陌生指令时性能显著下降，而对于关系抽取指令的稳健性较问答指令更差。
