Compression with Global Guidance: Training-free Acceleration of High-Resolution Multimodal Large Language Models

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种名为GlobalCom$^2$的新型令牌压缩方法,旨在提高多模态大语言模型在高分辨率图像处理中的推理效率。该方法通过优化保留比率,消除冗余令牌,适应性地保留重要细节,实验结果表明其在性能与效率之间取得了最佳平衡。

🏷️

标签

➡️

继续阅读