凌陨心
·
LLM微调实战，做自己的chatgpt (一）
💡
原文中文，约2900字，阅读约需7分钟。
📝
内容提要
华佗项目开源了经过中文医学指令微调的LLaMA-7B模型，通过医学知识图谱和GPT3.5 API构建了中文医学指令数据集，提高了LLaMA在医疗领域的问答效果。详细介绍了环境搭建、权重下载、模型推理实验、Finetune、训练细节、模型效果对比、问题记录等内容。
🎯
关键要点
- 华佗项目开源了经过中文医学指令微调的LLaMA-7B模型。
- 通过医学知识图谱和GPT3.5 API构建了中文医学指令数据集。
- 环境搭建包括下载开源代码、安装依赖包和创建虚拟环境。
- 提供了训练好的LoRA权重下载，支持百度网盘和Huggingface。
- 模型推理实验可以通过提供的测试用例进行，支持单轮和多轮推理。
- Finetune过程需要按照指定格式构建数据集并运行finetune脚本。
- 训练细节包括计算资源需求和超参数设置，使用A100显卡进行训练。
- 模型效果对比展示了LLaMA、Alpaca和华佗的输出差异。
- 记录了环境问题和finetune过程中的错误及解决办法。
- 强调了训练数据集的重要性，指出模型可能出现重复回答和答案质量差的问题。
➡️
