本文提出一种弱监督音频字幕生成方法,仅需文本数据和预训练CLAP模型,无需配对音频字幕。该方法利用CLAP音频与文本嵌入的相似性,训练时从文本嵌入重构文本,推断时用音频嵌入解码,并桥接模态差距。在Clotho和AudioCaps数据集上达到全监督方法83%的性能。
该文综述音视频同步的多模态学习方法,涵盖基于Transformer的架构、自监督时间同步、跨模态嵌入、动态三元组损失及课程学习,并构建VGG-Sound Sync等数据集,验证其在稀疏与密集同步任务上优于先前技术。
完成下面两步后,将自动完成登录并继续当前操作。