移动边缘和云端的分布式推理:一种基于数据制图的聚类方法
📝
内容提要
本研究解决了大规模深度神经网络(DNN)在资源有限的移动、边缘和物联网平台上的部署问题。提出了一种新颖的方法,通过数据制图评估样本复杂性,优化了移动设备、边缘设备和云端的推理任务分配。实验结果表明,该方法在GLUE数据集上的推理成本降低超过43%,同时准确率损失小于0.5%。
➡️
本研究解决了大规模深度神经网络(DNN)在资源有限的移动、边缘和物联网平台上的部署问题。提出了一种新颖的方法,通过数据制图评估样本复杂性,优化了移动设备、边缘设备和云端的推理任务分配。实验结果表明,该方法在GLUE数据集上的推理成本降低超过43%,同时准确率损失小于0.5%。