VideoPrism:一种用于视频理解的基础视觉编码器
原文中文,约400字,阅读约需1分钟。发表于: 。介绍了一种名为 VideoPrism 的通用视频编码器,利用单个冻结模型解决各种视频理解任务。通过在异构语料库上预训练 VideoPrism,其中包含 3600 万个高质量的视频字幕对和 5.82 亿个带有噪声的平行文本视频剪辑,通过全局 - 局部语义视频嵌入和标记重排方案改进了遮挡自编码模型的预训练方法,使得 VideoPrism...
该文章介绍了一种名为VideoPrism的通用视频编码器,通过在异构语料库上预训练,改进了遮挡自编码模型的预训练方法,使得VideoPrism主要关注视频模式,同时利用与视频相关的宝贵文本。在四个广泛的视频理解任务组上进行了广泛的测试,实现了最优性能。