FedJudge: 联合法律大型语言模型
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
该研究评估了联邦学习在医学领域的应用,结果显示联邦学习模型总体表现优于单个客户数据训练的模型,但使用更多客户训练的模型表现较差。联邦学习训练的模型在客户数据独立同分布的情况下表现接近,但在非独立同分布数据下有明显差距。
🎯
关键要点
- 该研究评估了联邦学习在医学领域的应用。
- 联邦学习模型总体表现优于单个客户数据训练的模型。
- 使用更多客户训练的模型在固定数据总量下表现较差。
- 基于预训练模型的转换器表现更强劲。
- 在客户数据独立同分布的情况下,联邦学习训练的模型表现接近整合数据训练的模型。
- 在非独立同分布数据下,联邦学习训练的模型与整合数据训练的模型有明显差距。
➡️