BriefGPT - AI 论文速递
·
FedPEAT：移动边缘计算中的联邦学习、参数高效微调和仿真器辅助调整在人工智能基础模型上的融合
💡
原文约500字/词，阅读约需2分钟。
📝
内容提要
本文介绍了FedDAT框架，用于异构多模态联邦学习的调优。该框架利用Dual-Adapter Teacher处理数据异质性，通过MKD实现高效的知识传递。实验结果表明，FedDAT优于现有的集中PEFT方法。
🎯
关键要点
- 基础模型在多模态学习方面取得显著进展。
- 联邦学习（FL）解决数据集中化困难，支持多个客户端协同训练。
- 之前的工作采用参数高效调优（PEFT）方法，但主要集中在单模态上。
- 提出了针对异构多模态 FL 的调优框架，称为 Federated Dual-Adapter Teacher（FedDAT）。
- FedDAT 利用 Dual-Adapter Teacher（DAT）处理数据异质性，通过正则化和互相知识蒸馏（MKD）实现知识传递。
- FedDAT 是首个支持多种异构视觉语言任务的有效分布式调优方法。
- 实验结果显示，FedDAT 显著优于现有的集中 PEFT 方法。
➡️
