AntDT: 一种自适应的分布式培训框架用于领导者和延迟节点

原文约300字，阅读约需1分钟。发表于：。

该论文提出了一个统一的分布式训练框架 AntDT，用于自适应解决分布式训练中的延迟问题，并通过实验证明其在训练效率方面的优势。

本文介绍了TT-HF半分散式学习结构，利用本地集群内的D2D通信进行模型训练，追求亚线性渐进收敛率和减少网络资源利用。实验结果显示，TT-HF在异质性场景下优于联邦学习方法，对信道衰落和非凸失真函数的测试表现良好。