DivPrune: Diversity-based Visual Token Pruning for Large Multimodal Models

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了DivPrune方法,旨在解决大型多模态模型中视觉标记过多的问题。该方法通过最大化标记多样性来减少冗余,提高模型的代表性。实验结果表明,DivPrune在多个数据集上实现了高准确率,并显著降低了延迟和GPU内存使用。

🎯

关键要点

  • DivPrune方法旨在解决大型多模态模型中视觉标记过多的问题。
  • 该方法通过最大化标记多样性来减少冗余,提高模型的代表性。
  • 实验结果显示,DivPrune在多个数据集上实现了高准确率。
  • DivPrune显著降低了推理延迟和GPU内存使用。
➡️

继续阅读