本文探讨了三种语言模型微调的方法：完全微调、参数高效微调（PEFT）和指令微调。完全微调更新所有参数以适应特定任务，但计算资源需求高。PEFT仅更新部分参数，解决了计算和遗忘问题。指令微调通过自然语言指令提高模型的通用性。这些方法增强了语言模型的实用性和适应性。

本文比较了完全微调与低秩自适应（LoRA）在大型语言模型微调中的差异。研究表明，LoRA模型存在“侵入维度”，导致其在持续学习中表现不佳，遗忘更多预训练信息。尽管LoRA在特定任务上表现良好，但完全微调在泛化能力和适应性方面更强。