本研究提出深度混合方法（MoD），通过选择性处理相关通道，提高卷积神经网络（CNN）的计算效率。使用静态计算图，加快训练和推理速度，性能优于传统CNN，具有实用价值。

PAI-TorchAcc是阿里云开发的Pytorch大模型训练加速框架，OLMo是完全开源的大语言模型。PAI-TorchAcc通过静态计算图和分布式优化提供高效训练支持。使用PAI-TorchAcc加速OLMo模型训练需要三个步骤，并可通过计算优化、通信优化和显存优化提高性能。在OLMo 1B和7B上，PAI-TorchAcc相比PyTorch FSDP加速比分别为1.64X和1.52X。PAI-TorchAcc易于接入其他大模型，并提升训练性能。