本研究提出在密集检索模型中整合单一专家混合块(SB-MoE),以提升模型的泛化能力和鲁棒性。实证结果表明,SB-MoE在低参数模型中优于传统微调方法,显著改善了检索效果。
完成下面两步后,将自动完成登录并继续当前操作。