基于错误概率预测的量化与早期退出结合策略
原文中文,约300字,阅读约需1分钟。发表于: 。提出了一种结合量化和早期退出动态网络的更一般的动态网络方法 QuEE,通过准确预测进一步计算可能获得的潜在准确性改进,解决了传统的早期退出问题。
本文提出了一种早期预测机制 'Exit Predictor',通过引导某些明显困难的数据样本绕过早期出口的计算,降低设备边缘混合推理系统中早期退出网络的设备计算负担。实验结果表明,Exit Predictor对于早期退出网络在准确性和设备计算负担之间取得更好的折衷效果。