BriefGPT - AI 论文速递
·
Learning-Free Token Compression for Multi-Modal Large Language Models
💡
原文英文，约100词，阅读约需1分钟。
📝
内容提要
本文提出了一种新的无学习令牌压缩方法，旨在降低视觉-语言模型的计算成本和推理时间。该方法在空间和时间维度上进行压缩，显著提升了模型的推理能力和效率，同时保持了性能。实验结果表明，该方法在视频问答任务中实现了显著的效率提升。
🎯
关键要点
- 提出了一种新的无学习令牌压缩方法，旨在降低视觉-语言模型的计算成本和推理时间。
- 该方法在空间和时间维度上进行压缩，显著提升了模型的推理能力和效率。
- 实验结果表明，该方法在视频问答任务中实现了显著的效率提升。
➡️
