小行星:适用于异构边缘设备的资源高效混合管道并行协作 DNN 训练
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
AccEPT是一种用于加速边缘协同流水线-并行训练的方案,包括自适应延迟预测器和高效的数据压缩方案。实验结果显示,该方法能够将边缘流水线并行训练的速度提高至原来的3倍。
🎯
关键要点
- AccEPT是一种加速边缘协同流水线-并行训练的方案。
- 方案包括轻量级自适应延迟预测器,用于准确估计计算延迟。
- 自适应延迟预测器通过连续学习适应未见过的设备。
- 该方案实现了更好的模型划分,以平衡计算负载。
- 还提出了一种位级计算高效的数据压缩方案。
- 实验结果表明,AccEPT能够将训练速度提高至原来的3倍。
➡️