文心大模型牵手Unsloth,消费级硬件也能微调文心多模态大模型!
📝
内容提要
Unsloth是一个专为大语言模型微调和强化学习打造的开源框架,作为大模型微调领域的“加速神器”,Unsloth以惊人的训练速度提升和极致的显存优化能力,大幅度降低了微调训练的资源门槛,深受全球开发者喜爱。:支持ERNIE-4.5、ERNIE-4.5-MoE、ERNIE-4.5-VL-MoE及PaddleOCR-VL模型的全量微调、预训练以及4-bit、8-bit和16-bit训练。我们希望...