通过联合数据深化和预取实现高能效边缘学习
内容提要
本文综述边缘计算中深度学习推理的优化研究，涵盖计算卸载、模型剪枝、边缘-云端分区与特征编码、能量收割与多MEC卸载、联合边缘智能框架、Edgent协作推理、协作智能架构、混合DNN隐私保护及边缘设备能耗特征分析。
延伸解读
边缘学习优化的技术路线
文章综述了边缘计算中深度学习推理的多种优化技术，包括计算卸载、模型剪枝、边缘-云端分区与特征编码、能量收割与多MEC卸载、联合边缘智能框架、Edgent协作推理、协作智能架构、混合DNN隐私保护及边缘设备能耗特征分析。这些技术从不同角度提升能效和性能，例如剪枝可减少传输和计算负担，分区与编码能提高能效和吞吐量，协作推理可加速实时推理。
性能提升与精度权衡
多项研究展示了显著的性能提升，但往往伴随精度损失。例如，基于强化学习的计算卸载在AWS和ARM配置上实现35%加速，精度降低最少仅0.9%；DNN分区剪枝方法在传输负载上降低25.6倍，计算速度加快6.01倍，端到端延迟降低4.81倍；协作智能架构在ResNet-50上端到端延迟和移动能耗分别平均提高53倍和68倍，精度损失不到2%。这些数据表明，优化技术能在可接受的精度损失下大幅提升效率。
隐私与能效的协同考虑
文章还涉及隐私保护和能效评估。联合边缘智能框架声称不泄露数据或拓扑信息，混合DNN方法通过Siamese微调确保用户设备只携带必要信息，防止二次推断。同时，边缘设备能耗特征研究通过测量、预测和评分，将复杂功耗数据转化为易理解形式，推动可持续发展思维。这些工作表明，边缘学习优化需兼顾隐私与能效。
Q&A
边缘计算中如何通过计算卸载优化深度学习推理？
基于强化学习的计算卸载方案可以学习最佳卸载策略，同时考虑首选深度学习模型选择技术，以最小化响应时间并提供足够准确性。在AWS和ARM核心配置的多个实现中，该方案提供35%的加速，准确性降低最少仅0.9%。
DNN分区方法如何减少移动设备的负担？
通过迭代删除不重要的卷积层过滤器进行剪枝，减少无线传输负担或总计算负担，并能自动选择满足延迟和准确性要求的修剪模型。实验表明，与未剪枝模型相比，传输负载降低多达25.6倍，总计算速度加快6.01倍，端到端延迟降低4.81倍。
特征空间编码如何提高边缘平台的能效？
在物联网环境中，将DNN推断任务在边缘和主机平台之间分区，并通过特征空间编码提高边缘平台的最大输入速率和/或降低能量消耗。模拟结果表明，在卷积层末端划分DNN并配合特征空间编码能显著提高能效和吞吐量。
能量收割和多MEC设备场景下的计算卸载有哪些方案？
针对无线网络中具备能量收割功能和多个MEC设备（IoT）的计算卸载，提出了基于强化学习的计算卸载框架，包括基于Q-learning的hotbooting计算卸载方案和基于DQN的快速计算卸载方案，针对不同MEC场景给出了性能界限，并通过模拟验证了算法效果。
联合边缘智能（FEI）框架如何优化资源效率？
FEI框架评估物联网网络的能量成本和边缘服务器的本地数据处理能力，使边缘服务器适时请求足够数据训练模型。引入映射函数评估计算负载，采用基于ADMM的方法优化能量成本和平均计算资源利用率。该算法不泄露数据或拓扑信息，仿真表明能在有限牺牲模型收敛性能下显著提高资源效率。
Edgent协作推理框架如何提升实时DNN推理性能？
Edgent是一种协作和按需的DNN合作推理框架，通过在设备和边缘之间自适应分配DNN计算，并在适当的中间DNN层进行早期退出，来加速DNN推理，提高实时性能。
协作智能架构如何降低移动设备能耗和延迟？
通过将移动设备上计算的中间特征卸载到云端，降低需要发送到云端的数据量。在ResNet-50模型上，相比现有云端计算方法，端到端延迟和移动能耗分别平均提高53倍和68倍，精度损失不到2%。
混合DNN方法如何保护隐私？
用于合作、隐私保护分析的深度神经网络混合方法，使用边缘处理思想，在保持效益的同时减少不必要、潜在敏感信息的级别。利用Siamese微调技术，确保用户设备只带有主任务所需的必要信息，并防止数据的二次推断。
边缘设备深度学习的能量消耗特征是什么？
通过测量、预测和评分三个方面研究，揭示了边缘设备中深度学习的能量消耗特征，设计了基于内核级能量数据集的边缘设备上的内核级能量预测器，并引入两个评分指标，将复杂的功耗数据转化为易于理解的形式，以推动可持续发展思维。
自适应模型划分如何解决移动设备通信延迟问题？
针对移动设备上的深度神经网络推断，使用自适应模型划分的方法解决通信延迟问题，并对准确性进行预测和校准，从而实现更可靠的推断决策。
