本文综述大语言模型高效微调方法：QFT量化全参数调优将内存降至21%，单卡可调LLaMA-7B；LOMO融合梯度计算与参数更新，单机8卡可微调65B模型；SIFT、SquareHead、DSnoT等稀疏微调提升稀疏模型性能；研究还揭示LoRA微调存在灾难性遗忘及缩放规律，并探讨多语言与少样本场景下的参数高效微调效果。