南洋理工大学、新加坡国立大学与华为联合推出FDABench,这是首个针对数据智能体的基准测试,涵盖2007个任务,支持多种数据源和工作流模式,评估智能体在异构数据分析中的表现,帮助用户选择最合适的系统。
本文提出了TRIP框架,旨在解决联邦学习中的专家分配和通信成本问题。实验结果表明,TRIP在提高通信效率的同时,显著改善了个性化样本的处理,展示了其在异构数据环境中的应用潜力。
研究表明,原生多模态模型(NMM)在早融合和后融合架构中性能相当,早融合在低参数下表现更佳且训练效率高。结合混合专家(MoE)可显著提升性能。随着计算预算增加,两者性能趋近,稀疏性有利于早融合。建议在统一架构内进行多模态特化,以更好地处理异构数据。
本研究提出了一种新型联合双重学习方法,克服了现有联合学习在异构数据和通信延迟下的局限性。实验结果表明,该方法在数据不一致的情况下仍能有效更新客户端模型,显著优于现有技术,展示了去中心化数据的潜力。
本研究提出了一种多输入自编码器模型MIAEAD,用于异构数据的异常检测。该模型通过重构误差为特征子集分配异常分数,并利用变分自编码器学习正常数据分布。实验结果表明,MIAEAD在多个数据集上的表现优于传统方法,AUC分数提高最多6%。
本研究提出了RecKG,一个标准化的推荐系统知识图谱,旨在解决异构推荐系统中知识图谱整合不足的问题。RecKG通过确保不同数据集中的实体一致性,促进了异构数据源的无缝集成,并揭示了额外的语义信息。实证研究表明,RecKG在互操作性方面优于其他方法。
本研究探讨大型语言模型(LLMs)在关系数据库预测任务中的应用,证明其在复杂关系和异构数据上表现优异,为机器学习设立新基准,激励后续研究。
麻省理工学院研究人员开发了一种新技术,通过统一多种异构数据来训练通用机器人。这种方法提高了机器人在多任务上的表现,减少了训练时间和成本,研究表明其在模拟和现实任务中的表现提升超过20%。未来希望进一步增强数据处理能力,以实现更广泛的应用。
本研究提出了跨孤岛稳健集群联合学习(CS-RCFL)算法,解决异构数据分布问题。通过Wasserstein距离构建模糊集,捕捉数据分布变化,确保模型在最坏情况下的性能,并保护隐私,适用于医疗机构。
本文探讨了自注意力机制的神经网络模型(如Transformer)在联邦学习中的应用,特别是在处理异构数据时的性能改进。研究提出了多种新方法,如Federated Knowledge Anchor (FedKA),以解决模型遗忘问题并提高准确性。实验结果表明,这些方法在医学数据集上表现优越,有效应对数据异质性带来的挑战。
本文介绍了一种改进的联邦学习方法,通过分层聚类将客户端分组进行独立训练,以提升模型性能和收敛速度。同时,提出了混合联邦与集中学习框架,优化了通信和计算效率,并验证了其在异构数据环境下的有效性。此外,研究探讨了分层独立子模型训练方法,显著降低了通信成本并提高了准确率。
本文提出了多种联邦学习算法,旨在解决异构用户设备的数据、资源分配和通信延迟问题,强调其在未来6G网络中的重要性。通过优化调度和资源分配,显著提高了模型性能和通信效率。
个性化联邦学习(PFL)通过Moreau包络的交替方向乘子方法(FLAME)解决了异构数据的收敛性问题,实现了亚线性收敛率。该方法无需超参数调整,并提出了偏倚客户选择策略以加速收敛。实验结果表明,FLAME在异构数据训练中的性能优于现有方法,通信效率提升了3.75倍。文章还总结了个性化联邦学习的研究进展及未来挑战。
本文探讨了联邦学习中的聚合策略,提出了FedAvg算法的改进方法,包括FedAc和WeiAvg,并分析了其在异构数据上的收敛性和性能。研究表明,调整学习率和利用客户端数据多样性可显著提升模型的收敛效果和泛化能力。
该论文全面概述了联邦蒸馏(FD)的最新进展,探讨了其基本原理及应对挑战的方法。研究提出了多种FD应用,如本地到中心的协作蒸馏、迁移学习和知识蒸馏,显著提高了模型的准确性和隐私保护。实验结果表明,FD在异构数据环境下表现优越,减少通信开销并提升学习效率。
本研究提出了一种处理异构数据的框架,利用预训练深度学习模型进行跨模态检索,并优化模型的培训方法和损失函数。通过最优传输理论,改进了半监督学习的性能,实验证明该方法在多个数据集上优于现有技术。
本文探讨了分割联邦学习(SFL)在高度异构数据上的应用,提出了MiniBatch-SFL和AdaptSFL等新算法,以提高模型的准确性和训练性能。研究表明,SFL结合了联邦学习和分裂学习的优点,有效解决了数据隐私和计算效率问题。实验结果显示,S^2FL在推断准确性和训练速度上均有显著提升。
本文研究了联邦学习中的多种算法及其收敛性能,分析了 FedAvg、FedAU、WeiAvg、CA-Fed 和 FedFish 等算法,发现它们在处理异构数据和未知客户端参与率问题上表现优异,能够提高模型的准确性和收敛速度。实验结果显示,这些新方法在多任务学习和图像分类中优于传统算法。
本文探讨了多种联邦学习方法,如CLIP2FL、FedPCL和FedUL,旨在应对异构数据、通信成本和隐私保护等挑战。研究提出了轻量级框架和对比学习方法,以提升客户端特征表示能力和模型性能,实验结果显示这些方法在多种数据集上有效。
该研究介绍了PFLlib,一个包含34种先进个性化联邦学习算法的库,旨在解决异构数据问题。文中提到多个开源框架,如FL_PyTorch和FedML,促进联邦学习算法的开发与应用,强调隐私保护和模型准确性。
完成下面两步后,将自动完成登录并继续当前操作。