解决大模型“开发难”,昇思MindSpore自动并行技术应用实践 原文约1700字,阅读约需4分钟。发表于:2023-08-03T10:14:54Z。 本文介绍MindSpore常用的分布式并行训练技术,以及如何将并行技术应用到大模型预训练中。 华为云社区分享了《DTSE Tech Talk|第35期:解决大模型“开发难”,昇思MindSpore自动并行技术应用实践》。MindSpore是一款开源AI框架,旨在降低开发者门槛,提供友好、高效、灵活的AI框架。它支持多种并行模式和分布式并行模式,适用于大规模训练任务。 MindSpore 分布式并行模式 华为云社区 大模型 并行模式 开源AI框架