本文探讨了无人机在数据分类、警务监察和通信优化等领域的应用,提出了基于深度学习和图神经网络的多种解决方案。这些方法在资源受限环境中表现优越,能够有效提高系统吞吐量、预测轨迹和增强通信安全性,适用于复杂的无人机网络和潜在敌对环境。
研究人员提出了一种名为Ents的高效三方训练框架,通过通信优化来训练决策树。实验结果表明,Ents在通信大小和轮数方面优于最先进的框架,并且训练时间也有显著提升。在WAN环境中,安全训练决策树的时间不到三个小时。
该文综述联邦学习通信优化与隐私保护进展,涵盖UVeQFed向量量化、CodedFedL、FedCode、CUCL、贝叶斯个性化FL、ULDP-FL、FedUL、Fed-ET及EasyFL低代码平台等方案,分别针对传输瓶颈、异构数据、无监督学习与差分隐私等问题提出改进。
该文综述多种深度学习调度系统:GPU集群调度器通过邻近性整合降低通信延迟,端到端完成时间改进达69%;CASSINI利用亲和图交错通信阶段,提升完成时间1.6至2.5倍;Nimble采用提前调度降低开销;Symphony集中调度推理,吞吐量提升4.7倍;还涉及联邦学习框架等。
本文综述联邦学习在低轨卫星星座中的应用,涵盖星座内数据处理、地星协同训练及边缘计算框架FedLEO、FedSN、LEOShot、FedSecure和FL-SEC等方案。这些方法通过轨道通信、模型聚合与调度优化,加快收敛、降低通信与能耗,并保持高精度。
该文综述了Tensor3D、P3、TeraPipe、CO2等分布式深度学习训练优化算法,通过优化通信、流水线并行和混合并行,显著缩短大模型训练时间并提升吞吐量,部分方法可在数千GPU上高效训练万亿参数模型。
该文综述分布式机器学习的通信优化方法,包括CoCoA、CoCoD-SGD、DiLoCo、FireCaffe、深度梯度压缩、DORE和Top-k压缩器,通过本地计算、梯度压缩与通信策略切换降低通信开销,加速训练并保持模型精度。
该文综述移动边缘计算中联邦学习的研究:利用移动性改善数据异构使模型准确率提升15.1%,提出异步算法FedMobile;分层框架结合梯度稀疏化与周期平均降低通信延迟;VEFL方案利用车辆算力训练全局模型;HybridFL多层协议加速收敛最多12倍、降低能耗58%;模型剪枝减少约50%通信成本;并探讨隐私安全与未来挑战。
该文综述分布式训练与计算中的通信优化研究,涵盖带宽优化的全局散播强多项式算法、环形网络联邦学习算法TornadoAggregate、拓扑感知集合算法合成器TACOS、兼容Allreduce的Top-k梯度压缩与动态压缩比策略、大批次训练的稳定性与2D-Torus all-reduce、去中心化O(k)-Top-k稀疏SGD、以编码冗余缓解慢节点的Short-Dot、通过编码洗牌降低通信负载,以及map-reduce并行与通信权衡的下界。
本文综述低轨卫星联邦学习研究,提出分布式参数服务器、FedSN、FedLEO、LEOShot等框架,以解决异构计算、上行受限和模型陈旧等问题;结合高空平台通信、轨道预测与部分聚合,实现训练加速29倍、通信量减少8倍;并涵盖地面—卫星协同、半同步分层聚合、NOMA资源优化及FedSecure安全方案。
完成下面两步后,将自动完成登录并继续当前操作。