该文综述混合专家（MoE）模型研究进展，涵盖AdvMoE对抗训练框架提升CNN鲁棒性并降低推理成本，新门控结构、uMoE不确定性建模、MoDE专家互蒸馏等方法增强专业化与泛化能力，理论证明MoE可分解复杂问题且比密集网络更抗攻击，以及HyperMoE、单门异步训练、GMoE图网络和鲁棒问答等应用拓展。