本文探讨了多模态大型语言模型在跨模态理解与生成中的高推理成本，分析了现有令牌剪枝方法的不足，强调成功剪枝需关注冗余令牌的识别与评估公正性，为未来方法设计奠定基础。

本文探讨了ColBERT模型的优化设计，采用令牌剪枝技术以提高推理速度和减小索引大小。研究提出了ToP和Zero-TPrune等多种方法，显著提升了模型的性能和效率。同时，探讨了令牌剪枝在图像分类中的应用，提出了新的学习Token修剪方法，优化了Transformer模型的推理成本，降低了计算复杂度。

该文综述视觉Transformer（ViT）的加速方法：基于图的标记传播（GTP）降低复杂度并保留信息；令牌剪枝与汇聚框架PPT在ImageNet上使DeiT-S的FLOPs降低37%、吞吐量提升45%以上且不损精度；IdleViT动态闲置图像令牌，复杂度降低33%、精度仅降0.2%；此外还有语义标记、PSViT、TORE、FPGA框架HeatViT、渐进采样PS-ViT及自适应A-ViT等方法，兼顾效率与准确率。