GENOME: 生成式神经符号视觉推理的模块生长与重用
原文中文,约200字,阅读约需1分钟。发表于: 。通过使用大型语言模型 (Large Language Models),我们提出了一种生成性神经符号化视觉推理方法,在模块初始化和执行的阶段,通过生成和复用模块来处理视觉 - 语言任务。该方法表现出优越的性能,能够在标准任务中进行竞争,并能够无缝地将学习到的模块转移到新任务中。
该研究提出了一种使用基于注意力的添加层来整合视觉信息的方法,构建了引导语言模型进行视频摘要的模型。该模型在 How2 数据集上的 ROUGE-1、ROUGE-2 和 ROUGE-L 比之前的最新研究提高了 5.7, 5.3 和 5.1 分数,其中 83.6% 的提高来自于视觉引导方法。