利用 NVIDIA FLARE 增强大规模模型的联合学习
原文中文,约300字,阅读约需1分钟。发表于: 。使用 NVIDIA FLARE 进行联邦学习,以解决人工智能和大型语言模型中数据处理和利用的关键挑战,从而提高自然语言处理和生物制药应用的准确性和鲁棒性。
通过对2个生物医学自然语言处理任务使用6个语言模型评估联邦学习在医学领域的应用,结果显示联邦学习模型在总体表现上优于单个客户数据训练的语言模型,有时甚至与整合数据训练的模型持平。当数据总量固定时,使用更多客户训练的语言模型表现较差,但基于预训练模型的转换器表现更加强劲。联邦学习训练的语言模型在客户数据独立同分布的情况下与整合数据训练的模型表现接近,但在非独立同分布数据下有明显差距。