复杂任务没问题但简单任务不行：揭示多模态大型语言模型的懒惰

BriefGPT - AI 论文速递 · 2024-10-15T00:00:00Z

近期，多模态大型语言模型因单模态偏见在复杂任务中出错。研究者提出因果框架分析视觉问答中的偏见，并设计因果图进行深入分析。推出包含12,000个VQA实例的MORE数据集，挑战模型的多跳推理能力。提出“分解-验证-回答”框架和微调策略以减轻偏见，实验结果为未来研究提供重要见解。