通过预定义稀疏性增强分裂计算和早退出应用
💡
原文中文,约400字,阅读约需1分钟。
📝
内容提要
研究人员提出了一种创新的方法,将早期退出和分裂计算合并在一起,以解决深度神经网络在资源受限设备上的部署问题。实验证明,这种方法能够显著降低成本。
🎯
关键要点
-
深度神经网络在各个领域表现出色,但其庞大大小限制了在资源受限设备上的部署。
-
提出了一种创新的统一方法,将早期退出和分裂计算结合起来。
-
该方法考虑了准确性、计算效率和通信成本,确定了最佳的分裂层。
-
研究还探讨了在边缘设备上进行推断或将推断卸载到云中的选择。
-
图像分类受到时间、光照和天气等环境失真的影响。
-
引入了名为 I-SplitEE 的在线无监督算法,适用于缺乏基本事实和具有时序数据的场景。
-
实验证明 I-SplitEE 能够在降低最多 5% 的性能退化的情况下,将成本降低至少 55%。
➡️