ARPA:一种新颖的混合模型,推动视觉词义消歧的进展,结合大型语言模型和变换器
原文中文,约300字,阅读约需1分钟。发表于: 。本文研究解决了视觉词义消歧(VWSD)中的多模态数据整合问题,提出了ARPA架构,将大型语言模型和变换器的特性融合,通过自定义的图神经网络层学习数据中的复杂关系。实验证明,ARPA在复杂消歧场景中表现出色,有望重塑语言和视觉数据互动的标准。
该文章介绍了Alberta大学团队在SemEval-2023视觉词义消歧任务中的系统,使用了BabelNet中的注释、文本和图像编码器的组合算法。与英语编码器应用于翻译文本进行了比较。通过使用语言模型生成的描述来增强上下文,提高了准确性。还介绍了其他V-WSD方法的图像生成和文本条件图像分割,并评估了它们。官方提交结果排名第18,非官方结果更好。