本文探讨了在通信成本和隐私保护限制下的联邦表示学习，提出了基于对比学习的框架和多原型策略，以提高模型性能和隐私保护。实验结果显示，这些方法在多个数据集上表现优异，有效应对数据异构性和标签偏斜问题。

该文综述联邦表示学习研究，通过融合预训练模型表示、原型对比学习、相似度蒸馏和在线知识蒸馏等方法，在保护隐私和降低通信成本的前提下实现客户端协同学习。FedPCL、MOON、FedCollab、CreamFL等框架可缓解数据异构与灾难性遗忘问题，支持多模态和个性化学习，在图像分类、检索等任务上优于传统联邦学习。

本文提出了一种新的联邦表示学习框架，使用相似度蒸馏对全局模型进行训练，以实现在通信成本和隐私保护的限制下的可行性。实验证明该方法在多种数据集上能够以可比较的结果实现多种设置下的性能。