Transformer危！谷歌MoR架构发布：内存减半推理速度还翻倍
保持大模型性能的同时降低计算和内存成本
谷歌推出的新架构Mixture-of-Recursions（MoR）实现了推理速度提升2倍，内存减少50%。该架构通过统一参数共享和自适应计算，降低了计算和内存成本，同时保持了大模型的性能。MoR在多个参数规模上优于传统Transformer，展现出更高的计算效率和可扩展性。
原文中文，约2900字，阅读约需7分钟。发表于：。
