该文综述多种联邦学习通信压缩方法,包括消息压缩、Ornstein-Uhlenbeck过程、FedCode代码簿传输、梯度稀疏与局部更新权衡、知识蒸馏、半监督蒸馏、自适应优化、聚类与梯度校正、模型剪枝及表示学习等,在保持精度的同时大幅降低通信成本,部分方案可降低99%甚至490倍。
本文综述稀疏性在持续学习中的应用:SparCL框架通过权重、数据与梯度稀疏协同加速训练并保持精度;DST实证研究给出初始化与增长策略配置建议;CLNP利用非活动神经元学习新任务而不损害旧任务;CoSCL、SpaceNet、EMGD、自适应分组稀疏、子空间正交等方法分别从子网络集成、容量压缩、梯度调整、正则化和正交学习减少遗忘与干扰,SCL实现自动裁剪。
完成下面两步后,将自动完成登录并继续当前操作。