在 Amazon SageMaker 平台上使用 LlamaFactory 框架训练 Meta Llama3
内容提要
Amazon SageMaker是一项机器学习服务，帮助数据科学家和开发人员快速准备机器学习模型。LlamaFactory是一个支持多种微调技术的框架，用于统一高效微调大型语言模型。文章介绍了在Amazon SageMaker上使用LlamaFactory框架训练Llama3的过程，包括构建镜像、训练和部署模型。
延伸解读
为何选择 SageMaker 而非 EC2 进行训练
文章指出，相比直接使用 EC2，SageMaker 能统一训练环境、降低实例空置率并减少等待资源的时间。对于需要频繁调整或长期运行的训练任务，这些优势有助于提升资源利用率和开发效率。但具体节省程度取决于任务规模和调度策略，需结合实际评估。
LlamaFactory 在统一容器中的价值
LlamaFactory 支持多种 Llama 类模型的微调，因此可以构建一个统一容器来覆盖不同模型的训练需求，减少为每个模型单独构建镜像的工作量。其模块化设计和对 100 多种预训练 LLM 的灵活支持，使得在 SageMaker 上维护一套训练环境成为可能，但需注意不同模型对依赖版本的要求可能仍有差异。
训练配置中的关键取舍
文章示例中，本地测试使用量化模型配合 QLoRA 以降低显存需求，而 SageMaker 训练则采用全参数微调与 DeepSpeed ZeRO-3。选择实例类型时，PEFT 训练可考虑 ml.g5 系列并启用 Spot 实例以节省成本，全参数微调则需更高规格实例。这些取舍直接影响训练成本和时长，需根据任务目标权衡。
从训练到部署的完整链路
训练完成后，模型和结果保存在 S3，可下载到本地容器进行快速验证。验证通过后，可参考文章提供的步骤将模型压缩上传至 S3，并部署为 SageMaker Endpoint 进行在线推理。部署时需注意模型路径、输入输出长度等环境配置，以及端点启动的健康检查超时设置。
Q&A
Amazon SageMaker的主要功能是什么？
Amazon SageMaker是一项机器学习服务，帮助数据科学家和开发人员快速准备机器学习模型，涵盖从构建、训练到部署的整个过程。
LlamaFactory框架的优势是什么？
LlamaFactory框架支持多种微调技术，具有模块化设计，能够灵活微调100多种预训练大型语言模型，显著降低微调成本。
如何在Amazon SageMaker上构建自定义镜像？
可以通过构建包含LlamaFactory和SageMaker-Training-Toolkit的Dockerfile来创建自定义镜像，确保一致的运行时和可靠的训练过程。
使用LlamaFactory训练Llama3的步骤有哪些？
训练步骤包括构建镜像、在SageMaker Studio或JupyterLab中准备训练文件、执行训练脚本，并通过S3查看模型和训练结果。
LlamaFactory如何支持分布式训练？
LlamaFactory框架利用DeepSpeed的ZeRO优化器来支持分布式训练，显著减少内存占用。
训练完成后如何部署模型？
训练完成后，可以将模型压缩并上传到S3，然后创建HuggingFaceModel并将其部署为SageMaker Endpoint进行在线推理。
