通过使用Centered Kernel Alignment (CKA)分析图像字幕基准上视觉和语言模型的潜在空间结构,发现不对齐和对齐的编码器的表示空间在语义上是相似的。提出了两种方法,一种是快速二次分配问题优化,一种是基于新颖局部CKA度量的匹配/检索。在跨语言、跨域字幕匹配和图像分类等任务上展示了其有效性。
完成下面两步后,将自动完成登录并继续当前操作。