CDMPP:一种适用于张量程序的设备模型无关框架的延迟预测
原文中文,约300字,阅读约需1分钟。
📝
内容提要
AccEPT是一种用于加速边缘协同流水线-并行训练的方案,包括自适应延迟预测器和高效的数据压缩方案。实验结果显示,AccEPT能够将边缘流水线并行训练速度提高到原来的3倍。
🎯
关键要点
-
AccEPT是一种用于加速边缘协同流水线-并行训练的方案。
-
方案包括轻量级自适应延迟预测器,用于准确估计不同设备上每一层的计算延迟。
-
自适应延迟预测器通过连续学习适应未见过的设备,以实现更好的模型划分。
-
提出了一种位级计算高效的数据压缩方案,以压缩训练过程中需要传输的数据。
-
实验结果表明,AccEPT能够将边缘流水线并行训练速度提高到原来的3倍。
🏷️