基于 P-Tuning v2 进行 ChatGLM2-6B 微调实践 | 京东云技术团队
原文中文,约4500字,阅读约需11分钟。
📝
内容提要
本文介绍了四种微调方法,包括SFT监督微调、LoRA微调、P-tuning v2微调和Freeze微调,以及使用ChatGLM2-6B模型进行微调的步骤和注意事项。文章还提到了学习率和batch_size对模型更新的影响。
🏷️