标签

 联邦学习 

相关的文章:

探索联邦学习的最新研究进展,包括局部微调、公平性、安全使用私有数据等,以及应用案例和实践经验。

DualFed:通过分层表示在联邦学习中实现泛化与个性化共享

原文约300字,阅读约需1分钟。发表于:

在个性化联邦学习中,我们提出了一种新的方法 DualFed,通过利用深度模型的层级结构,选择多个表示并将它们合并,同时实现模型的泛化和个性化,从而在不牺牲性能的情况下解决了原有方法中计算成本高的问题。

本文提出了一个新的联邦学习框架和算法,利用跨客户的分布式计算能力,在线性设置中高效地降低问题维度。实验证明该方法获得与地面实况表示的线性收敛,并在异构数据的联邦环境中相对于个性化联邦学习方法有经验改进。

相关推荐 去reddit讨论

多跳联邦学习中的稀疏增量聚合

原文约300字,阅读约需1分钟。发表于:

本文研究了联邦学习在多跳通信设置中的应用,通过使用增量聚合方法来改善通信效率,提出了几种相关稀疏化方法,并通过数值结果展示了这些算法在减少收敛性问题的情况下,相比常规路由和最先进的稀疏增量聚合方法,提高了 15 倍和 11 倍的通信效率。

本文研究了联邦学习在多跳通信设置中的应用,通过增量聚合方法改善通信效率,提出了几种相关稀疏化方法,并通过数值结果展示了这些算法在减少收敛性问题的情况下,相比常规路由和最先进的稀疏增量聚合方法,提高了15倍和11倍的通信效率。

相关推荐 去reddit讨论

物联网联邦学习中的隐私威胁与对策:系统综述

原文约300字,阅读约需1分钟。发表于:

系统地分析了最近的文献,以识别物联网环境下的联邦学习中的隐私威胁,并评估可以用来减轻这些威胁的防御措施。着重关注物联网的背景下,包括推断攻击、毒化攻击和窃听在内等多种隐私威胁,并评估了差分隐私和安全多方计算等防御措施对保护隐私和维护联邦学习功能完整性的有效性。强调了为物联网环境量身定制的强大且高效的隐私保护策略的必要性,同时需要应对重放攻击、逃避攻击和模型窃取攻击的策略,并探索轻量级防御措施...

该文章分析了物联网环境下联邦学习的隐私威胁,并评估了减轻这些威胁的防御措施。强调了量身定制的隐私保护策略的必要性,并探索了轻量级防御措施和新兴技术如区块链,以提高物联网中联邦学习的隐私保护。

相关推荐 去reddit讨论

HF-Fed:基于分层的定制化联邦学习框架用于 X 射线成像

原文约200字,阅读约需1分钟。发表于:

通过分解问题为本地数据适应和整体 X 射线成像,以及使用层次化超网络来提取特定领域的超参数条件共享的共同成像网络,本研究引入了基于层次框架的联合学习方法 (HF-Fed) 来优化定制化 X 射线成像,在不共享数据的情况下提供了一种增强 X 射线成像的有希望的解决方案。

本研究提出了一种基于层次框架的联合学习方法 (HF-Fed),用于优化定制化 X 射线成像,为增强 X 射线成像提供了有希望的解决方案。

相关推荐 去reddit讨论

异构联邦学习中的 ADMM: 个性化、鲁棒性和公平性

原文约400字,阅读约需1分钟。发表于:

FLAME 是一种优化框架,利用交替方向乘子法 (ADMM) 训练个性化和全局模型,具有全局收敛性和两种收敛速度,相比最先进的方法在线性问题上更具鲁棒性和公平性,且在收敛性、准确性和抵御攻击等方面优于最先进的方法。

个性化联邦学习(PFL)是一种解决异构数据收敛性差的方法。本文提出了使用Moreau包络(FLAME)的交替方向乘子方法进行训练PFL模型的方法,实现亚线性收敛率。实验结果表明,FLAME在模型性能和通信效率方面优于最先进的方法。 Nov, 2023

相关推荐 去reddit讨论

通过提示驱动的特征转换解决联邦学习中的特征 - 分类器不匹配

原文约700字,阅读约需2分钟。发表于:

传统联邦学习方法中的全局模型在面对数据异质性时表现欠佳。个性化联邦学习(PFL)使客户能够训练适应其本地数据分布的个性化模型。然而,我们惊讶地发现 FedAvg 中的特征提取器优于大多数 PFL 方法的特征提取器。更有趣的是,通过对特征提取器提取的局部特征进行线性变换以与分类器对齐,FedAvg 可以超越大部分 PFL 方法。这表明 FedAvg...

研究发现传统联邦学习方法在面对数据异质性时表现欠佳。FedAvg中的特征提取器优于大多数个性化联邦学习方法的特征提取器。通过线性变换对特征进行对齐,FedAvg可以超越大部分PFL方法。为解决不匹配问题并增强特征提取器质量,提出了一种名为FedPFT的新型PFL框架。实验证明,FedPFT的性能超过了最先进的方法,提高了7.08%。

相关推荐 去reddit讨论

我用于联邦学习研究的测试平台在哪里?

发表于:

该研究论文介绍了 CoLExT,一个用于联邦学习研究的真实测试平台,包含了各种异构边缘设备和自动仪器化的度量采集和可视化功能,并通过初始调查揭示了先前未知的权衡、低效和编程错误。

相关推荐 去reddit讨论

R-SFLLM:用于大型语言模型的分割联邦学习的干扰弹性框架

原文约200字,阅读约需1分钟。发表于:

本研究针对分布式机器学习中的分裂联邦学习(SFL)进行了研究,特别关注在无线信道上部署 SFL 时,通过对被干扰的 LLM 词嵌入影响进行分析并提出了 R-SFLLM 物理层框架,通过无线感应数据来应对干扰,并在联合优化波束赋形、用户调度和资源分配等方面取得了显著的效果。

我们提出了一种名为FL-GLM的联邦学习框架,用于大型语言模型。该框架通过在本地客户端放置输入块和输出块,防止嵌入梯度攻击,并使用密钥加密来防止逆向工程攻击。同时,采用客户端批处理和服务器分层等优化方法来提高训练效率。实验结果表明,FL-GLM与集中式chatGLM模型具有可比较的指标,验证了该联邦学习框架的有效性。

相关推荐 去reddit讨论

加强电网可靠性和实现弹性市场的联邦学习预测

原文约200字,阅读约需1分钟。发表于:

我们提出了一种综合的方法,以增加未来富含分布式能源资源的电网的可靠性和韧性。我们的分布式方案结合了基于联邦学习的攻击检测和基于本地电力市场的攻击缓解方法。通过将该方案应用于一个富含光伏的实际配电网进行验证,模拟结果表明该方法是可行的,并且能够成功减轻网络物理攻击的影响。

联邦学习在可再生能源应用中有潜力,但也面临挑战。未来研究方向值得关注。

相关推荐 去reddit讨论

CCVA-FL:基于交叉客户变异的适应性联邦学习在医学成像上的应用

原文约300字,阅读约需1分钟。发表于:

通过将医学图像数据转换为公共特征空间,CCVA-FL 方法旨在最小化不同客户端间的数据差异,并使用转换图像研究模型训练,以解决分散数据和隐私问题。

本文介绍了针对不同客户的FedAvg类FL算法的收敛分析,发现相关性对算法的收敛速率有不利影响。提出了一种新的算法CA-Fed,在平衡收敛速度和模型偏差的同时忽略可用性低和相关性大的客户。实验结果表明,CA-Fed在合成数据集和实际数据集上表现更好。

相关推荐 去reddit讨论