通过预定义稀疏性增强分裂计算和早退出应用

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

研究人员提出了一种创新的方法,将早期退出和分裂计算合并在一起,以解决深度神经网络在资源受限设备上的部署问题。实验证明,这种方法能够显著降低成本。

🎯

关键要点

  • 深度神经网络在各个领域表现出色,但其庞大大小限制了在资源受限设备上的部署。

  • 提出了一种创新的统一方法,将早期退出和分裂计算结合起来。

  • 该方法考虑了准确性、计算效率和通信成本,确定了最佳的分裂层。

  • 研究还探讨了在边缘设备上进行推断或将推断卸载到云中的选择。

  • 图像分类受到时间、光照和天气等环境失真的影响。

  • 引入了名为 I-SplitEE 的在线无监督算法,适用于缺乏基本事实和具有时序数据的场景。

  • 实验证明 I-SplitEE 能够在降低最多 5% 的性能退化的情况下,将成本降低至少 55%。

➡️

继续阅读