Fine-Tuning ChatGLM2-6B with P-Tuning v2: A Practical Approach by JD Cloud Tech Team
💡
原文英文,约400词,阅读约需2分钟。
📝
内容提要
本文介绍了四种微调方法,包括SFT监督微调、LoRA微调、P-tuning v2微调和Freeze微调,以及使用ChatGLM2-6B模型进行微调的步骤和注意事项。文章还提到了学习率和batch_size对模型更新的影响。
🏷️
标签
➡️