本研究评估了预训练的视觉-语言模型在生物相关问题上的应用潜力。通过创建一个包含30,000幅图像和469,000个问答对的数据集,评估了12种最先进的模型,并探讨了提示技术和推理幻觉对模型性能的影响。研究发现,当前的模型在生物图像分析领域具有显著的应用潜力。
本研究探索了预训练的视觉语言模型(VLM)和大型语言模型(LLM)在视觉常识推理中的协同能力。通过名为ViCor的协作方法,LLM主动引导VLM集中关注和收集相关的视觉元素,支持潜在的常识推断。该方法在两个VCR基准数据集上取得了优越表现。
完成下面两步后,将自动完成登录并继续当前操作。