我们提出了一种轻量级的无监督联邦学习方法，通过利用每个客户端上的无标签数据进行模型训练和通信，解决监督式联邦学习中的挑战。该方法利用预训练的视觉-语言模型和图像编码器，改进无标签实例的初始预测，并采用类平衡文本特征采样策略以解决数据异质性。实验证明该方法显著提升模型性能。