LVLM-Compress-Bench:大型视觉语言模型压缩的广泛影响基准测试
📝
内容提要
本研究针对大型视觉语言模型(LVLMs)在多模态任务中压缩对生成性能的影响进行了深入探讨,填补了现有研究在这一领域的空白。通过引入KV缓存和权重压缩两种主要的自动回归模型压缩方式,研究展示了在多个多模态数据集上的压缩效果,以及其对性能和伦理关键指标的影响。
➡️
本研究针对大型视觉语言模型(LVLMs)在多模态任务中压缩对生成性能的影响进行了深入探讨,填补了现有研究在这一领域的空白。通过引入KV缓存和权重压缩两种主要的自动回归模型压缩方式,研究展示了在多个多模态数据集上的压缩效果,以及其对性能和伦理关键指标的影响。