该论文研究了不同粒度的MoE模型中的路由策略，通过任务级路由在大规模数据集上实验，提取可部署的子网络。实验结果表明，task-MoE在WMT上的表现比token-MoE高1.0 BLEU，保留所有收益并与蒸馏后的student模型推理成本相同。在扩展到200种语言对时，task-MoE提高了推理吞吐量2.6倍。

该论文研究了不同粒度的MoE模型中的路由策略，通过任务级路由在大规模数据集上实验，提取可部署的子网络。实验结果表明，task-MoE模型在多种语言对上的表现优于token-MoE模型，并且推理成本相同。在扩展到200种语言对时，task-MoE模型提高了推理吞吐量。

该论文研究了不同粒度的MoE模型中的路由策略，通过任务级路由在大规模数据集上实验，提取可部署的子网络。实验结果表明，task-MoE模型在多种语言对上的表现优于token-MoE模型，并且推理成本相同。在扩展到200种语言对时，task-MoE模型提高了推理吞吐量2.6倍。

该论文研究了不同粒度的MoE模型中的路由策略，通过任务级路由在大规模数据集上实验，能够从大型稀疏模型中提取更小、可部署的子网络。实验结果显示，task-MoE在WMT上的表现比token-MoE高1.0 BLEU，并且推理成本相同。在扩展到200种语言对时，task-MoE提高了推理吞吐量2.6倍。

该论文研究了不同粒度的MoE模型中的路由策略，通过任务级路由在数据集上进行实验，能够从大型稀疏模型中提取更小、可部署的子网络。实验结果表明，task-MOE在30种语言对上的表现平均比token-MoE高1.0 BLEU，并且能够保留所有收益。同时，当扩展到200种语言对时，task-MoE表现相近，并且提高了推理吞吐量2.6倍。

该论文研究了不同粒度的MoE模型中的路由策略，通过任务级路由在大规模数据集上实验，能够从大型稀疏模型中提取可部署的子网络。实验结果表明，task-MoE在WMT上的表现比token-MoE高1.0 BLEU，且保留了所有收益和推理成本。在扩展到200种语言对时，task-MoE提高了推理吞吐量2.6倍。