数字医疗领域联邦学习的安全与隐私问题及解决方案
内容提要
联邦学习在分布式学习中面临安全与隐私挑战。研究对各类机器学习模型（包括大语言模型）的安全隐私挑战进行分类，聚焦聚合器与参与者攻击，如投毒、后门、成员推断、生成对抗网络及差分隐私攻击，并提出未来方向以强化系统、保护敏感数据隐私。相关研究还探讨医疗数据隐私、算法设计框架、公平性及防御技术。
延伸解读
攻击面不止于模型：聚合器与参与者都是风险点
文章将联邦学习的安全隐私挑战按攻击者位置分类，重点包括聚合器攻击和参与者攻击。投毒、后门、成员推断、生成对抗网络和差分隐私攻击分别对应不同环节，这意味着仅保护本地数据并不足够，中央服务器和参与方都可能成为薄弱点。读者需注意，防御设计应覆盖整个学习流程，而非只关注数据不出本地。
医疗场景的特殊性：隐私保护与模型可用性需平衡
文章多次提及医疗数据碎片化和保密性需求，联邦学习被视作在保持本地敏感数据的同时训练共享全球模型的方案。但研究也指出，健康诊断模型可能遭受数据投毒，导致全局模型准确度下降。这提示实际部署时，隐私保护机制与模型鲁棒性需要同步评估，不能默认联邦学习自动解决所有医疗数据隐私问题。
公平性与非独立同分布数据是落地难点
文章提到公平联邦学习的生命周期和分类方法，并讨论了非独立同分布数据、高维度问题和异构架构带来的训练挑战。在医疗领域，不同机构的数据分布差异明显，公平性考量与隐私安全相互交织。读者应关注，现有防御技术多针对特定攻击，而公平性和异构环境下的综合解决方案仍是开放问题。
Q&A
联邦学习在数字医疗中主要面临哪些安全与隐私攻击？
文章指出联邦学习在数字医疗中面临聚合器和参与者两类攻击，具体包括投毒攻击、后门攻击、成员推断攻击、生成对抗网络攻击和差分隐私攻击。
联邦学习如何帮助解决医疗数据碎片化和保密性问题？
联邦学习通过保持本地机构中的敏感数据，同时在中央服务器上训练共享全球模型，从而在保护隐私的前提下改进医疗数据的分析和利用，解决数据碎片化和保密性问题。
针对联邦学习中的投毒攻击，有哪些防御技术？
文章提到针对数据污染、推断攻击和模型毒化攻击的防御技术，并系统概述了现有安全挑战及相应的防御方法，但未展开具体技术细节。
联邦学习在医疗保健领域的公平性实现面临哪些挑战？
文章指出分布式学习中的公平性在医疗保健领域实现和支持带来一些挑战和考虑因素，并概述了公平联邦学习的典型生命周期及更新分类方法以反映当前公平性状态。
联邦学习训练中处理非独立同分布数据和高维度问题有哪些解决方案？
文章提到探讨了处理非独立同分布数据、高维度问题和异构架构的联邦学习训练挑战，并提出了几种解决方案，但未具体列出方案内容。
联邦学习中常用的隐私保护技术有哪些？
文章提到使用多方计算、同态加密、差分隐私和随机梯度下降等多种隐私方法来实现隐私保护。
