本文综述低秩适应(LoRA)系列研究。LoRA通过注入可训练秩分解矩阵减少微调参数,性能接近全量微调且无推理延迟。后续工作包括FLoRA支持多任务批处理、动态秩搜索加速训练、LoRA-FA降低内存、S-LoRA提升多适配器服务吞吐量,并将LoRA扩展至语音模型微调与超参数黑盒优化。
完成下面两步后,将自动完成登录并继续当前操作。