CDMPP:一种适用于张量程序的设备模型无关框架的延迟预测

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

AccEPT是一种用于加速边缘协同流水线-并行训练的方案,包括自适应延迟预测器和高效的数据压缩方案。实验结果显示,AccEPT能够将边缘流水线并行训练速度提高到原来的3倍。

🎯

关键要点

  • AccEPT是一种用于加速边缘协同流水线-并行训练的方案。
  • 方案包括轻量级自适应延迟预测器,用于准确估计不同设备上每一层的计算延迟。
  • 自适应延迟预测器通过连续学习适应未见过的设备,以实现更好的模型划分。
  • 提出了一种位级计算高效的数据压缩方案,以压缩训练过程中需要传输的数据。
  • 实验结果表明,AccEPT能够将边缘流水线并行训练速度提高到原来的3倍。
➡️

继续阅读