本研究提出了音频为中心的视频理解基准(ACVUBench),旨在评估多模态大型语言模型对音频信息的理解能力。基准包含2,662段视频和超过13,000个问答对,设计了音频中心任务,以展示音频-视觉模型的不足。
本研究提出了一种查询中心的音频-视觉认知网络(QUAG),旨在提升多模态视频检索中的用户偏好学习。QUAG通过全球对比对齐和局部细粒度交互增强音视频内容的感知能力,并利用深层查询进行时间通道过滤,以准确识别用户期望的内容。实验结果表明,QUAG在HIREST数据集上表现优异,具备良好的推广能力。
本研究提出了EchoSegnet方法,结合预训练的2D音频视觉模型与三维场景表示,旨在提升复杂环境中音响物体的分割效果。
本文提出了一种结合视觉线索和自监督学习的音频-视觉多通道语音分离与去混响方法。该研究结合扩散模型和音频-视频预训练框架,显著降低了训练时间和计算量,并在多个任务中超越了现有方法的表现。
本文介绍了一种新型音频-视觉语音增强框架,利用个性化模型和神经编解码器从嘈杂信号中合成清晰语音。该框架通过深度学习和视觉信息提高语音质量,适用于多人对话和嘈杂环境,实验结果显示其在语音增强和噪音降低方面表现优异。
该研究介绍了首个真实音频-视觉深度伪造数据库SWAN-DF,展示了高质量的嘴唇与语音同步。研究表明,调整预训练模型可以成功欺骗识别系统,并使用Whisper模型提高声音DeepFake检测的准确性。此外,提出了新的深度伪造检测框架和算法,以增强音频的真实性和媒体身份验证。
本文介绍了一种名为EZ-VSL的无监督音频-视觉源定位方法,旨在识别视频中的声源。该方法通过对齐音频和视觉信息,显著提高了定位精度,CIoU指标从76.80%提升至83.94%。研究还探讨了自监督学习、音频-视觉类别权重及新数据集,展示了在声源定位方面的优越性能。
该研究介绍了首个音频-视觉深度伪造数据库SWAN-DF,展示了高质量的嘴唇与语音同步。研究表明,调整深度伪造模型可以成功欺骗识别系统,并探讨了音频信号分析技术及生成式AI在语音领域的隐私威胁,提出了自动化音频检测方法,以提高DeepFake检测的准确性。
本文介绍了音频-视觉语音识别和源定位的新方法,包括半监督学习框架Dual Mean-Teacher(DMT)和弱监督音视频分割框架WS-AVS。这些方法通过生成高质量伪标签和多尺度对比学习,显著提升了识别和定位性能,解决了过拟合和定位不准确的问题。
完成下面两步后,将自动完成登录并继续当前操作。