基于 P-Tuning v2 进行 ChatGLM2-6B 微调实践 | 京东云技术团队

💡 原文中文,约4500字,阅读约需11分钟。
📝

内容提要

本文介绍了四种微调方法,包括SFT监督微调、LoRA微调、P-tuning v2微调和Freeze微调,以及使用ChatGLM2-6B模型进行微调的步骤和注意事项。文章还提到了学习率和batch_size对模型更新的影响。

🏷️

标签

➡️

继续阅读