FedPEAT:移动边缘计算中的联邦学习、参数高效微调和仿真器辅助调整在人工智能基础模型上的融合
原文约500字/词,阅读约需2分钟。发表于: 。在当前的基础模型时代中,我们介绍了 Emulator-Assisted Tuning (EAT) 和 Parameter-Efficient Fine-Tuning (PEFT) 结合形成的 Parameter-Efficient Emulator-Assisted Tuning (PEAT),进一步将其扩展为联邦学习的 FedPEAT。FedPEAT 使用适配器、仿真器和 PEFT...
本文介绍了FedDAT框架,用于异构多模态联邦学习的调优。该框架利用Dual-Adapter Teacher处理数据异质性,通过MKD实现高效的知识传递。实验结果表明,FedDAT优于现有的集中PEFT方法。