【vLLM 学习】Lora With Quantization Inference
💡
原文中文，约1700字，阅读约需4分钟。
📝
内容提要
LoRA（低秩适配）是一种高效的微调技术，通过低秩分解模型权重矩阵，降低参数和计算开销。实现步骤包括选择基础模型、插入适配模块、冻结原生参数、定义损失函数与评估指标，以及执行端到端训练。示例代码展示了如何使用Hugging Face Transformers库加载模型并配置LoRA设置。
🎯
关键要点
- LoRA（低秩适配）是一种高效的微调技术，适用于大规模预训练模型。
- LoRA的核心思想是通过低秩分解模型权重矩阵来减少参数数量和计算开销。
- LoRA的基本原理是将原始权重矩阵分解为两个较小的矩阵乘积形式。
- 应用LoRA进行模型微调的步骤包括选择基础模型、插入适配模块、冻结原生参数、定义损失函数与评估指标，以及执行端到端训练。
- 选择基础模型是确定要使用的大型语言模型或深度学习架构作为起点。
- 插入适配模块是在选定层之间加入小型矩阵构成的新组件，以便针对具体应用场景做出改变。
- 冻结原生参数是将除新添加部分之外的所有原有组成部分设置为不可修改状态，以减少运算负担。
- 定义损失函数与评估指标是明确适合当前项目的监督信号表达方式及其衡量标准。
- 执行端到端训练是利用标注好的样本集进行完整的前馈-回传循环，直到满足停止条件。
- 示例代码展示了如何使用Hugging Face Transformers库加载模型并配置LoRA设置。
➡️
