本文提出了一种早期预测机制 'Exit Predictor',通过引导某些明显困难的数据样本绕过早期出口的计算,降低设备边缘混合推理系统中早期退出网络的设备计算负担。实验结果表明,Exit Predictor对于早期退出网络在准确性和设备计算负担之间取得更好的折衷效果。
本文提出了一种早期预测机制 'Exit Predictor',通过引导某些明显 '困难' 的数据样本绕过早期出口的计算,降低设备边缘混合推理系统中早期退出网络的计算负担。同时,通过回归模型调整预测阈值和置信度阈值,适应不同带宽条件下的推理需求。实验结果表明,Exit Predictor 在准确性和设备计算负担之间取得更好的折衷效果。
本文提出了一种名为“Exit Predictor”的早期预测机制,可以降低设备边缘混合推理系统中早期退出网络的设备计算负担。通过回归模型调整预测阈值和置信度阈值,以适应不同带宽条件下推理的需求。实验结果表明,该方法具有更高的推理准确性。
完成下面两步后,将自动完成登录并继续当前操作。