轻量级无监督的预训练视觉语言模型联邦学习

CLIP2FL 方法通过知识转移改善客户端特征表示能力，解决异构性和类分布不平衡问题。

提出轻量级框架，客户端通过融合多个预训练模型生成的表示进行联合学习。

FedPCL 方法利用原型进行知识传递，提高客户端利用现有模型的能力，保持通信效率。

研究了在通信成本和隐私保护限制下的联邦表示学习，提出新的框架并验证其有效性。

FedDISC 方法引入预训练扩散模型，解决高通信成本和客户端负担等挑战。

IsoFed 方案有效训练带标签和无标签客户端，验证了在医学图像数据集上的模型性能。

FedUL 模型通过共享未标记数据的条件分布实现模型共享，实验结果表明其有效性。

FedU 框架在保护数据隐私的同时利用去中心化的未标记图像数据学习视觉表示。

联合少样本学习框架解决数据分布和本地数据不足问题，经过实验验证其有效性。

基于对比预训练的聚类联合学习方法改善模型收敛性和性能。

FFNLP 系统通过伪标注和提示学习技术优化移动设备自然语言处理应用的性能。