Probabilistic Federated Prompt-Tuning with Non-IID and Imbalanced Data

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种新方法,解决了联邦学习中非独立同分布和不平衡数据导致的全模型调优效率低的问题。通过优化输入前缀的小集合,结合联邦学习与提示调优,实验结果表明该方法在处理数据异质性方面优于现有方法,具有重要应用价值。

🎯

关键要点

  • 本研究提出了一种新方法,解决了联邦学习中非独立同分布和不平衡数据导致的全模型调优效率低的问题。
  • 该方法结合了联邦学习与提示调优,通过优化输入前缀的小集合,实现了对预训练模型行为的再编程。
  • 实验结果表明,该方法在处理数据异质性方面优于现有方法,具有重要的应用价值。
➡️

继续阅读