Meta近期发布了WebSSL模型，探索无语言视觉自监督学习的潜力。该模型在大规模图像数据集上训练，展现了在视觉问答和OCR等任务中的竞争力，挑战了语言监督的重要性，并强调了数据集组成和模型规模的影响。WebSSL为未来的多模态系统提供了开源基础。