边缘 GPU 中的 CNN 架构提取
内容提要
该文综述侧信道攻击对神经网络的安全威胁，可从功耗、缓存、存储器等信息逆向恢复MLP、CNN的结构、权重及输入图像，MNIST识别率达89%；同时探讨GPU高效网络设计、CNN推理功耗性能预测、光学神经网络等边缘加速方案，并研究基于Transformer的深度学习侧信道攻击改进。
延伸解读
侧信道攻击对边缘AI的威胁
文章指出，侧信道攻击可利用功耗、缓存、存储器等信息逆向恢复神经网络的结构、权重甚至输入图像。例如，针对CNN的存储器侧信道攻击能恢复LeNet、AlexNet和VGG16的结构；基于功率的攻击在MNIST上识别输入图像的准确率可达89%。这些攻击对部署在边缘设备上的模型构成实际安全风险，尤其是在资源受限的微控制器上。
GPU高效网络设计的权衡
为提升边缘GPU上的CNN推理效率，文章介绍了GPU高效网络设计原则，并据此设计了GENets系列。其中GENets在ImageNet上达到81.3%的top-1准确率，且比EfficientNet在GPU上快6.4倍。这表明通过轻量级搜索方法可以平衡精度与速度，为边缘部署提供实用方案。
功耗性能预测加速设计探索
文章提出一种快速预测CNN推理功耗和性能的技术，平均绝对百分比误差（MAPE）分别为5.03%和5.94%。该方法帮助架构师在开发早期评估不同GPGPU的功耗与性能，减少原型制作需求，从而节省时间和成本，并加快产品上市。
光学神经网络与Transformer攻击
文章探讨了光学神经网络（ONNs）作为下一代模拟神经形态硬件，用于高并行、低延迟和低能耗计算，以突破传统电子加速器的限制。同时，研究基于Transformer的深度学习侧信道攻击，在ASCAD数据库上改进密钥恢复性能，显示了深度学习在攻击与防御两方面的持续演进。
Q&A
侧信道攻击如何从功耗信息中恢复神经网络的输入图像？
基于功率侧信道的攻击方法，在不了解神经网络详细参数的情况下，能够从收集到的功率跟踪中恢复输入图像。在MNIST数据集上，该攻击最高可实现89%的识别准确率。
有哪些侧信道攻击可以提取CNN模型的结构？
利用存储器侧通道信息，通过卷积神经网络模型结构的空间和时间数据复用以及架构提示信息，可以恢复数据流加速器中CNN模型的结构。实验表明，该攻击能恢复LeNet、AlexNet和VGGNet16等流行CNN模型的结构。
针对MLP和CNN模型的提取攻击有哪些特点？
一种针对传统MLP和CNN模型的提取方法，可以运行在高端32位微控制器（Cortex-M7）上，并且相对于参数提取而言，攻击的复杂性相对较低，强调了对适应这种平台的强大内存和延迟要求的可行性保护的迫切需求。
如何设计GPU高效的CNN网络？
基于现代GPU设计GPU高效网络的通用原则，通过简单且轻量级的方法搜索GPU高效网络结构，相较于大多数神经体系结构搜索方法（NAS），该结构具有简单且低计算开销的优势。据此设计的GENets在ImageNet上获得81.3%的top-1准确率，比EfficientNet在GPU上快6.4倍。
如何预测CNN推理过程中的功耗和性能？
开发了一种快速而精确的技术来预测CNN推理过程中的功耗和性能，MAPE分别为5.03%和5.94%。这种方法使计算机架构师能够在开发初期估计功耗和性能，减少了大量原型的必要性，节省了时间和金钱，同时改善了上市时间。
光学神经网络在边缘计算中有什么优势？
光学神经网络（ONNs）作为下一代模拟神经形态硬件平台，用于高并行、低延迟和低能量计算，以提高深度学习加速。边缘计算具有较低的能量消耗（数百瓦或更少）和实时分析能力，而传统电子硬件加速器正接近性能极限，ONNs可突破这些限制。
基于Transformer的深度学习如何改进侧信道攻击？
研究基于ANSSI侧信道攻击数据库（ASCAD），采用基于JAX的深度学习框架，重现了以前的一些结果并试图改进性能，并研究了各种基于Transformer的模型的有效性。深度学习可以减少有效密钥恢复所需的攻击轨迹数量。
