BriefGPT - AI 论文速递
·
INS-MMBench: 保险领域 LVLMs 性能综合评估的全面基准
💡
原文中文，约300字，阅读约需1分钟。
📝
内容提要
通过研究评估作品，发现两个问题：1）视觉内容对于很多样本来说是不必要的；答案可以从问题和选项中推断出来，或者来自于LLM中的世界知识。2）在LLM和LVLM训练中存在数据泄漏。为解决这些问题，提出了MMStar，一个具有6个核心能力和18个详细方向的多模态基准。在MMStar上评估了16个主要的LVLM，并调查了它们的数据泄漏和实际多模态增益。
🎯
关键要点
-
研究发现两个主要问题：视觉内容对很多样本来说是不必要的，答案可以从问题和选项中推断或来自LLM的世界知识。
-
LLM和LVLM训练中存在数据泄漏的问题。
-
为了解决这些问题，提出了MMStar，这是一个具有6个核心能力和18个详细方向的多模态基准。
-
在MMStar上评估了16个主要的LVLM，调查它们的数据泄漏和实际多模态增益。
➡️
