该文综述大语言模型的早期退出与参数高效微调研究。EE-LLM框架支持大规模3D并行训练与推理；MuE、HashEE、ConsistentEE等策略通过动态跳层实现40%至50%的加速并保持性能；PEFT立场论文探讨高效微调方向；序列标注提前退出、文本图微调、代码生成及ALS用户缩写展开个性化等任务均验证了效率与性能优势。