阿里团队针对循环Transformer的计算冗余问题，提出两篇论文：MeSH通过动态记忆缓冲和路由器解决循环空转，提升零样本准确率；SpiralFormer通过多分辨率序列压缩，实现从全局到局部的计算，降低计算量并提升性能。两篇论文分别被ICLR和EMNLP接收，为高效大模型提供新思路。

AIxiv专栏促进学术交流，Adobe与罗切斯特大学研究多模态大模型的计算冗余，提出YOPO剪枝方案。实验表明，LLaVA-1.5仅需12%的计算量即可保持性能，有效解决视觉token的计算开销问题。