CDMPP:一种适用于张量程序的设备模型无关框架的延迟预测
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
AccEPT是一种用于加速边缘协同流水线-并行训练的方案,包括自适应延迟预测器和高效的数据压缩方案。实验结果显示,AccEPT能够将边缘流水线并行训练速度提高到原来的3倍。
🎯
关键要点
- AccEPT是一种用于加速边缘协同流水线-并行训练的方案。
- 方案包括轻量级自适应延迟预测器,用于准确估计不同设备上每一层的计算延迟。
- 自适应延迟预测器通过连续学习适应未见过的设备,以实现更好的模型划分。
- 提出了一种位级计算高效的数据压缩方案,以压缩训练过程中需要传输的数据。
- 实验结果表明,AccEPT能够将边缘流水线并行训练速度提高到原来的3倍。
➡️