内容提要
研究者探讨了无语言监督的视觉表征学习在多模态任务中的潜力，提出的Web-SSL模型在视觉问题解答（VQA）中表现优异，甚至超越了语言监督的方法。通过扩展数据和模型规模，视觉自监督学习在OCR和图表理解任务中展现出强大能力。
关键要点
-
研究者探讨无语言监督的视觉表征学习在多模态任务中的潜力。
-
Web-SSL模型在视觉问题解答（VQA）中表现优异，超越语言监督的方法。
-
视觉自监督学习在OCR和图表理解任务中展现出强大能力。
-
研究者认为语言监督对多模态建模的视觉表征预训练并非必要。
-
视觉SSL在VQA任务上与CLIP模型竞争，尤其在OCR和图表任务中表现突出。
-
研究者使用Cambrian-1评估套件评估SSL模型的能力，涵盖多个VQA类别。
-
Web-SSL模型系列参数范围从10亿到70亿，进行公平比较。
-
视觉SSL在分类和分割方面保持竞争力，同时在VQA上有所改进。
-
对包含文本的图像进行更高比例的训练对提高OCR和图表性能有效。
-
研究者扩展了数据集规模和模型规模，以评估视觉模型的性能。
-
Web-DINO模型在VQA上取得与语言监督模型相当的性能。
-
随着模型大小和样本数量的增加，视觉SSL学习到的特征对VQA越来越有效。
-
Web-DINO在VQA和传统视觉任务中表现优于现成的MetaCLIP。
-
Web-DINO在高分辨率下的表现逐渐改善，显示出进一步提高高分辨率适应性的潜力。
延伸问答
Web-SSL模型在视觉问题解答（VQA）中的表现如何？
Web-SSL模型在VQA中表现优异，甚至超越了语言监督的方法。
视觉自监督学习（SSL）与语言监督方法相比有什么优势？
视觉SSL在多模态任务中可以匹配甚至超越语言监督的视觉预训练方法，尤其在OCR和图表理解任务中表现突出。
研究者如何评估视觉SSL模型的能力？
研究者使用Cambrian-1评估套件，涵盖多个VQA类别进行评估。
扩展数据集和模型规模对视觉SSL的影响是什么？
扩展数据集和模型规模可以显著提高视觉SSL在VQA任务中的性能，尤其是在OCR和图表任务中。
Web-DINO模型在高分辨率下的表现如何？
Web-DINO在高分辨率下的表现逐渐改善，显示出进一步提高高分辨率适应性的潜力。
视觉SSL在分类和分割任务中的表现如何？
视觉SSL在分类和分割方面保持竞争力，同时在VQA上有所改进。
