研究者探讨了无语言监督的视觉表征学习在多模态任务中的潜力，提出的Web-SSL模型在视觉问题解答（VQA）中表现优异，甚至超越了语言监督的方法。通过扩展数据和模型规模，视觉自监督学习在OCR和图表理解任务中展现出强大能力。