VIGC: 视觉指令生成和校正

该研究提出了一种使用基于注意力的添加层来整合视觉信息的方法，构建了引导语言模型进行视频摘要的模型。通过模态融合，该模型在How2数据集上的ROUGE-1、ROUGE-2和ROUGE-L分数比之前的研究提高了5.7、5.3和5.1分，其中83.6%的提高来自于视觉引导方法。这为多模态抽象摘要任务提供了有效的方法。