AIxiv专栏报道了一项新研究，提出通过轻量通信将混合专家模型（MoE）的局部均衡转变为全局均衡，从而显著提升模型性能和专家特异性。这一方法有效解决了MoE训练中的负载均衡问题，促进了专家的分化，具有重要的学术价值。
完成下面两步后，将自动完成登录并继续当前操作。
