协调深度神经网络:一种多功能的边缘卸载算法
原文约300字/词,阅读约需1分钟。发表于: 。在本研究中,我们提出了一种名为 CoDE 的新算法,它能够协同处理深度神经网络模型,从而实现低延迟的边缘 AI 服务。通过利用自身和其他模型的参数,DNN 模型可以创建新的推理路径,从而降低本地计算负荷,同时只对精度产生最多 2% 的影响。在重负载条件下,CoDE 可以进一步减少推理时间 30%,而精度仅下降 4%。
本研究提出了一种名为CoDE的新算法,用于协同处理深度神经网络模型,实现低延迟的边缘AI服务。CoDE通过创建新的推理路径,利用自身和其他模型的参数,降低本地计算负荷,同时最多仅对精度产生2%的影响。在重负载条件下,CoDE可以进一步减少推理时间30%,精度仅下降4%。