本研究提出了一种查询中心的音频-视觉认知网络(QUAG),旨在提升多模态视频检索中的用户偏好学习。QUAG通过全球对比对齐和局部细粒度交互增强音视频内容的感知能力,并利用深层查询进行时间通道过滤,以准确识别用户期望的内容。实验结果表明,QUAG在HIREST数据集上表现优异,具备良好的推广能力。
该文综述多模态视频检索与问答研究,提出Tree-augmented跨模态编码、蕴含树数据集、无监督多模态逻辑推断、IRGR检索生成框架、视频对话生成、多模态Transformer检索、MERLOT自监督学习、时域金字塔变换器及强化学习RLET等方法,并通过多任务学习在TVQA上取得最优效果。
完成下面两步后,将自动完成登录并继续当前操作。