阿里团队针对循环Transformer的计算冗余问题,提出两篇论文:MeSH通过动态记忆缓冲和路由器解决循环空转,提升零样本准确率;SpiralFormer通过多分辨率序列压缩,实现从全局到局部的计算,降低计算量并提升性能。两篇论文分别被ICLR和EMNLP接收,为高效大模型提供新思路。
完成下面两步后,将自动完成登录并继续当前操作。