BriefGPT - AI 论文速递 · 2023-11-09T00:00:00Z

LCM-LoRA：一种通用的稳定扩散加速模块

📝

内容提要

提出量化感知低秩自适应算法（QA-LoRA），通过分组运算增加量化自由度，减少自适应自由度，有效减少大型语言模型（LLMs）权重，节省时间和内存。QA-LoRA将LLM权重与辅助权重集成，保持准确性，并在LLaMA系列模型上验证有效性。

🏷️

标签

lora 模块