本研究提出TACO算法,旨在解决边缘计算中非独立同分布数据导致的联邦学习过度修正问题。通过客户端特定的梯度修正和模型聚合,TACO显著提升了模型性能、收敛性和训练效率,展现出优异的实际应用效果。
本研究提出了一种新框架,通过知识蒸馏聚合多个大型医疗基础模型,解决医疗图像分割任务中的训练和推理复杂性问题。聚合模型在12个任务中表现优越,Dice系数平均提高2%。
本研究分析了联合学习中模型聚合导致的性能下降,揭示了其对深度神经网络特征变异性和特征与参数耦合的负面影响,并提出了减轻这些影响的策略,为未来联合学习算法的改进奠定基础。
本研究解决了分布式和联邦学习中因数据源特征异质性引起的模型聚合和收敛问题。通过引入能量距离,降低计算开销,增强收敛性,并提升异构节点间的协调性。
本研究提出了一种新的多尺度路由机制GLIDER,旨在提升模型聚合方法在特定任务上的性能。GLIDER结合全球语义和局部学习路由器,实验结果表明其在保持泛化能力的同时,显著改善了特定任务的表现,具有实际应用潜力。
本文探讨了低秩适应方法(LoRA)在联邦学习中的应用,提出了FFA-LoRA和SA-FedLoRA等改进方案,显著降低了可训练参数和通信成本,同时提升了模型性能和计算效率。此外,研究还分析了LoRA在隐私保护和跨任务泛化中的优势,并提出了新的模型聚合方法RBLA,以解决模型聚合性能退化的问题。
本文介绍了一种半异步聚合的联邦边缘学习机制(PAOTA),研究表明,PAOTA在达到相同精度时训练时间更短,收敛性能接近本地SGD。此外,探讨了数字无线计算方案、低延迟多接入方案及基于群集数据共享的联邦学习框架,以提高模型聚合的效率和准确性。
本文研究了分布式学习中的模型聚合问题,提出了一种新方法,通过优化本地训练和节能聚合,提升模型性能并降低通信开销。该方法实现了异步共识迭代,确保在通信误差下仍能收敛到全局最优模型,且在不同设备上表现优异。实验结果表明,相较于传统方案,该方法显著改善了通信效率。
本文介绍了基于神经辐射场(NeRF)的系统,利用车辆和无人机收集的数据持续构建和维护一张地球规模的地图。通过联邦学习流程和模型聚合流程的定制,解决了NeRF大规模建模问题,并在大规模场景数据集上验证了姿态对齐和联邦学习流程的有效性。
本文提出了一种新颖的分层联邦学习算法,结合了量化通信效率,并对统计异质性具有鲁棒性。该方法将梯度聚合与模型聚合相结合,通过全面的分析框架评估其最优性差距和收敛速度,并与传统算法进行比较。研究结果表明,在一系列参数下,该算法始终能够实现高学习准确率,并在具有异构数据分布的场景中明显优于其他分层算法。
完成下面两步后,将自动完成登录并继续当前操作。