颜水成重返新加坡国立大学,担任特聘教授,专注于e-AGI研究。他曾在产业界工作多年,卸任昆仑万维研究院院长后回归学界,积极寻找学生并计划组建新实验室。
颜水成和袁粒团队提出了新架构MoE++,通过引入“零计算量专家”提升性能和速度。MoE++允许每个Token使用不同数量的FFN专家,降低计算成本,提高复杂Token处理能力。实验表明,MoE++在相同模型大小下性能优于传统MoE,专家吞吐速度提升1.1到2.1倍。模型权重已开源,展示了不同任务中的专家负载分布差异。
DAI 2024是国际分布式人工智能学术会议,将于新加坡举办。会议旨在促进分布式人工智能研究,邀请顶级研究人员和实践者,展示智能体技术的应用和创新案例。会议征稿广泛,鼓励提交高质量论文。
完成下面两步后,将自动完成登录并继续当前操作。