微调LLama 3.1——七月论文审稿GPT第5.5版：拿早期paper-review数据集微调LLama 3.1
原文中文，约4700字，阅读约需12分钟。
📝
内容提要
该文章介绍了对llama3.1模型进行微调的过程和结果，通过7方面review超过GPT4。微调过程中遇到的问题包括模版冗余后缀、推理结果中存在空项以及模型推理格式问题。最终得出的结论是llama3.1比llama3更强悍，微调超过GPT4。
❓
Q&A
llama3.1模型的微调过程是怎样的？
llama3.1模型通过Qlora和flash attention v2进行微调，使用15k样本，环境配置包括Linux系统和48G显卡。
llama3.1与llama3相比有哪些改进？
llama3.1在性能上优于llama3，新增了更多语言支持、更大预训练数据和更长的上下文处理能力。
微调llama3.1时遇到了哪些问题？
微调过程中遇到模版冗余后缀、推理结果中存在空项和模型推理格式问题。
llama3.1的微调结果如何？
微调后的llama3.1在7方面的表现超过了GPT4，显示出更强的能力。
如何配置llama3.1的微调环境？
微调环境需要Linux系统、支持cuda12.1的48G显卡，并可访问HuggingFace和Python官方源。
llama3.1的tokenizer存在什么问题？
llama3.1的tokenizer在生成输入时会产生冗余后缀，Huggingface已修复此问题。
🏷️
