迈向平衡对齐:视频时刻检索的模态增强语义建模
原文中文,约200字,阅读约需1分钟。发表于: 。通过提升视频模态和文本模态的特征,Modal-Enhanced Semantic Modeling(MESM)框架在视频短片检索中实现了更平衡的对齐,填补了形式上不平衡的模态差距。实验证明该框架在多个基准测试上取得了显著的泛化能力和最佳效果。
本文介绍了一种名为HAMMER的HierArchical Multi-Modal EncodeR模型,通过编码视频的粗略片段和细粒度帧级别,从多个子任务中提取不同尺度的信息,解决了未处理和未分段视频中定位未定义段的问题。实验结果表明,该方法优于以前的方法和强基线,是该任务的新的最佳方法。