本文提出自主专家模型(AoE),解决混合专家模型中路由器与专家分离的问题,提升专家选择的有效性和学习效果,实验结果表明其优于传统模型。
本研究提出了协同推理框架MoE$^2$,旨在优化边缘大型语言模型的专家选择问题。研究结果表明,该方法在能量和延迟限制下优于现有基线。
完成下面两步后,将自动完成登录并继续当前操作。