该研究发布了一系列开源的混合专家语言模型，参数范围从650M到34B，训练语料超过1T个标记。研究发现混合专家模型中的路由决策主要基于标记ID，可能导致性能下降。为了改进混合专家语言模型设计，提出了减轻问题和改进策略。

该研究发布了一系列开源的混合专家语言模型，参数范围从650M到34B，训练语料超过1T个标记。研究发现混合专家模型中的路由决策主要基于标记ID，与上下文相关性较小。研究提出了减轻问题并改进混合专家语言模型设计的潜在策略。

本文证明了在某些参数范围内，大型语言模型的训练可以通过前向计算和后向计算来实现。前向计算可以在几乎线性的时间内完成，但在其他参数范围内，没有真正的次二次时间算法。同时，也展示了计算单层注意力网络损失函数梯度的更难问题上的结果。