本文综述分布式学习算法，涵盖精确扩散多任务学习（无需共识机制）、异步网络多任务扩散LMS及均方误差分析、异步流言与ADMM个性化模型、异步分散共识优化、扩散协作强化学习、DSGD-AAU自适应通信、LASGD加速ImageNet训练、异步MCMC推理、异步Local-SGD语言模型训练以及自适应二元平均在线学习。