本文提出了一种细粒度的令牌修剪方法,通过可学习的路由器识别不重要的令牌,从而降低大语言模型推理中的计算开销。研究表明,该方法在多个基准测试中表现优异,显著提高了准确率保持率。
该文综述了多种提升视觉Transformer效率的方法,包括:A-ViT通过自适应减少令牌数提高效率;基于剪枝与恢复的3D人体姿态估计方法;语义标记ViT通过降维提升效率;SVT利用语义池模块减少视频冗余;可学习回归标记用于视频事件定位;FPGA硬件高效标记修剪框架HeatViT;STTS动态选取视频关键信息;VTN视频识别框架实现提速;AVT基于注意力预测未来动作,在多个基准测试中表现优异;EVAD高效视频动作检测框架降低计算复杂度并提速。
完成下面两步后,将自动完成登录并继续当前操作。