亚马逊AWS官方博客
·
宣布在 Amazon SageMaker AI 中推出 Amazon Nova 定制功能
💡
原文中文，约3000字，阅读约需8分钟。
📝
内容提要
Amazon SageMaker AI为Amazon Nova推出定制功能，支持模型训练的各个阶段。客户可根据需求选择有监督微调、对齐、持续预训练和知识蒸馏等技术，以优化模型性能，满足特定的准确性和成本要求。
🎯
关键要点
- Amazon SageMaker AI推出适用于Amazon Nova的定制功能，支持模型训练的各个阶段。
- 客户可以选择有监督微调、对齐、持续预训练和知识蒸馏等技术来优化模型性能。
- 有监督的微调包括参数高效微调（PEFT）和全面微调（FFT），适用于不同的数据量和成本考虑。
- 对齐技术包括直接偏好优化（DPO）和近端策略优化（PPO），用于调整模型输出以符合特定需求。
- 持续预训练（CPT）通过自监督学习扩展基础模型知识，适合使用大量未标记数据的情况。
- 知识蒸馏将知识从大型模型转移到小型模型，适用于缺乏足够训练样本的情况。
- 客户可以通过Amazon SageMaker Studio轻松定制Nova模型，并使用示例笔记本进行训练和推理。
- Amazon Nova定制功能已在美国东部推出，客户可通过相关网页和用户指南获取更多信息。
❓
延伸问答
Amazon Nova的定制功能支持哪些模型训练阶段？
支持模型训练的整个生命周期，包括预训练、有监督的微调和对齐阶段。
客户如何选择适合的定制技术？
选择适合的定制技术取决于目标、使用案例的复杂性以及数据和计算资源的可用性。
什么是有监督的微调，它有哪些实现方法？
有监督的微调是使用特定于目标任务的输入-输出对训练数据集来定制模型参数，主要有参数高效微调（PEFT）和全面微调（FFT）两种实现方法。
知识蒸馏的主要用途是什么？
知识蒸馏将知识从大型模型转移到小型模型，适用于缺乏足够训练样本的情况。
如何在Amazon SageMaker Studio中定制Nova模型？
用户可以在Amazon SageMaker Studio中启动SageMaker Studio，选择JumpStart，选择Nova模型并进行训练，使用示例笔记本进行微调。
Amazon Nova定制功能的推出地区有哪些？
Amazon Nova定制功能已在美国东部（弗吉尼亚州北部）推出。
➡️
