LVLM-Compress-Bench:大型视觉语言模型压缩的广泛影响基准测试

📝

内容提要

本研究针对大型视觉语言模型(LVLMs)在多模态任务中压缩对生成性能的影响进行了深入探讨,填补了现有研究在这一领域的空白。通过引入KV缓存和权重压缩两种主要的自动回归模型压缩方式,研究展示了在多个多模态数据集上的压缩效果,以及其对性能和伦理关键指标的影响。

🏷️

标签

➡️

继续阅读