使用 QLoRA 在 Amazon SageMaker Studio notebook 上对 Falcon-40B 和其他 LLM 进行交互式微调
原文中文,约7500字,阅读约需18分钟。发表于: 。在这篇文章中,我们展示了如何使用 Hugging Face PEFT 和 bitsandbtyes 在 SageMaker Studio notebook 上通过 QLoRA 微调 Falcon-40B 模型。
本文介绍了AWS高级机器学习解决方案架构师Sean Morgan、Lauren Mullennex和Hugging Face技术主管Philipp Schmid的背景介绍。