利用早期退出在自动调制分类中进行快速推断
原文中文,约300字,阅读约需1分钟。发表于: 。通过应用早期退出方法来加速深度学习模型的推断过程,本文提出了四种早期退出架构和一种自定义的多分支训练算法,研究了模拟调制分类的分类准确性和推断时间之间的权衡,并证明早期退出技术可以显著减少深度神经网络的推断速度,同时保持分类准确性。
本文介绍了一种早期预测机制Exit Predictor,通过引导困难的数据样本绕过早期出口的计算,降低设备边缘混合推理系统中早期退出网络的计算负担。实验结果表明,该方法在准确性和设备计算负担之间取得了更好的折衷效果。