内容提要
摩尔线程开源MTGDRCopy、MTSHMEM、MCCL和MT DeepEP四个通信库,覆盖显存直访、对称共享内存、多GPU集合通信及MoE专家并行,构成从底层访问到专家并行的完整MUSA通信栈,可支持分布式AI训练与推理,并提供源码、示例和测试工具,便于开发者验证、集成与调优。
延伸解读
四库分工:从显存访问到专家并行的层次化设计
四个通信库并非功能重复,而是按抽象层次分工:MTGDRCopy解决主机对显存的低延迟直访,MTSHMEM提供对称共享内存的单边通信与同步,MCCL负责通用集合通信,MT DeepEP则封装MoE专家并行的dispatch/combine流程。这种分层让开发者能按场景选用,也便于在同一软件栈内组合调用,降低跨层集成的复杂度。
性能调优空间:贴近硬件拓扑的通信路径选择
文章强调开发者可围绕实际GPU拓扑、网络配置和数据依赖进行调优。MCCL支持PCIe、MTLink和InfiniBand等路径,MTSHMEM支持节点内P2P、节点间远程传输及GPU发起的IB通信,MT DeepEP则组合MTLink、RDMA、MTSHMEM和IBGDA。这意味着性能并非固定,而是取决于部署环境与路径选择,需结合测试工具验证。
开源配套:源码、示例与测试工具降低验证门槛
此次开源不仅公开源码,还同步提供构建安装说明、示例和测试工具,如MTSHMEM的perftest、MCCL的mccl-tests以及MT DeepEP的验证脚本。对开发者而言,这有助于快速完成编译、功能验证和性能测试,减少从零搭建环境的工作量,也便于复现问题并向社区反馈改进。
适用边界:面向分布式AI但需按场景选型
文章明确这些库服务于分布式AI训练与推理,但各有侧重:MTGDRCopy适合小消息低延迟场景,MTSHMEM面向多进程多节点作业,MCCL覆盖单机及跨节点多GPU集合通信,MT DeepEP专用于MoE专家并行。开发者需根据数据规模、进程模型和模型结构选择对应库,而非一概而论地全部启用。
Q&A
摩尔线程这次开源了哪几个通信库?
摩尔线程开源了MTGDRCopy、MTSHMEM、MCCL和MT DeepEP四个通信库。
MTGDRCopy主要解决什么通信问题?
MTGDRCopy面向小数据量、低延迟通信场景,将GPU显存映射到CPU用户态地址空间,支持主机低延迟直接访问显存,并针对小消息H2D写入提供写合并路径。
MTSHMEM支持哪些通信能力?
MTSHMEM提供基于PGAS模型的单边通信、同步、原子操作和集合通信能力,支持节点内P2P、节点间远程传输以及GPU发起的IB通信。
MCCL适用于哪些场景?
MCCL适用于单机及跨节点多GPU场景,为分布式训练、推理及高性能计算提供集合通信、点对点通信与远程内存访问能力,支持PCIe、MTLink和InfiniBand等通信路径。
MT DeepEP在MoE模型中起什么作用?
MT DeepEP面向MoE模型专家并行,提供dispatch/combine通信能力,覆盖训练、Prefill和Decode场景,将MTLink、RDMA、MTSHMEM和IBGDA组合到专家并行路径中,完成专家之间的token分发与结果合并。
这四个通信库如何协同工作?
MTGDRCopy和MTSHMEM提供底层显存与远程通信能力,MCCL提供通用集合通信能力,MT DeepEP面向MoE工作负载封装专家并行通信流程。四库协同后,开发者可在同一软件栈内完成从显存访问到专家并行的通信调用。