本研究探讨了视觉-语言模型(VLMs)在文本编码器中获取语法知识的局限性,结果显示单模态语言模型(ULMs)在语法信息获取方面明显优于VLM,而VLM的语法学习受到预训练目标的显著影响。
该论文提出了一种新的视频-语言模型,旨在提升视频理解能力。通过去耦合的空间-时间编码器和新的预训练目标,该模型在视频问答任务中表现优越。研究引入了多个基准测试,如InfiniBench和E.T.基准,以评估长视频理解的挑战,并提出了TVBench以增强时间推理能力。实验结果表明,该模型在多项任务中显著优于现有方法。
本研究提出了多种图表理解模型,如ChartAssistant和UniChart,显著提升了图表问答和总结的性能。InstructGraph框架通过指令调整增强了大型语言模型的图推理能力。此外,研究开发了基准测试和数据集,以评估模型在图形理解方面的表现,并提出了新的预训练目标以提高模型的解释能力。
该研究利用多模态提取和图像文本对齐,采用创新的预训练目标来提高实体和关系的提取能力。实验结果表明,相对于先前的最佳方法,该方法的F1值提高了3.41%,并且对先前的多模态融合技术是正交的。在先前的最佳方法的基础上,该方法提高了5.47%的F1。
完成下面两步后,将自动完成登录并继续当前操作。