高效边缘人工智能：使用Gemmini加速器在FPGA上部署卷积神经网络
内容提要
本文综述了深度学习加速器（DLA）和FPGA在卷积神经网络（CNN）中的应用，探讨了设计方法和性能评估。研究表明，FPGA与深度神经网络（DNN）结合设计能显著提升对象检测性能并降低能耗。同时介绍了Edge TPU和脉冲神经网络（SNN）的性能优化技术，强调其在边缘计算中的应用潜力。
延伸解读
FPGA与GPU在边缘AI中的能效对比
文章指出，基于Winograd变换的FPGA设计在Intel Arria 10上达到1020图像/秒，能效比FPGA先前技术高5.8倍，且与NVIDIA TitanX GPU的23 img/s/W相比具有竞争力。这表明在边缘场景中，FPGA能在保持高吞吐的同时提供更优的能效，适合对功耗敏感的应用。
软硬件协同设计成为性能突破关键
文章强调协同设计神经网络架构与硬件加速器的重要性。联合搜索方法在延迟目标上优于传统平台感知搜索和手动模型，并能将边缘加速器能耗降低高达2倍。这提示读者，单纯优化硬件或算法已不足，需两者联合探索才能释放最大潜力。
新兴存储与脉冲网络拓展边缘部署选项
文章提到差分映射方案可提升ReRAM容错性，容忍近一个数量级的故障率；将DNN转换为SNN并在Loihi上部署，相比Intel Neural Compute Stick 2功耗降低27倍、能耗降低5倍。这些技术为边缘设备提供了更鲁棒、更节能的替代路径，但成熟度与通用性仍需关注。
Q&A
FPGA在卷积神经网络中的优势是什么？
FPGA与深度神经网络结合设计能显著提升对象检测性能并降低能耗。
Gemmini加速器的性能如何？
Gemmini加速器在Intel Arria 10设备上实现了1020图像/秒的性能，效率提高5.8倍。
如何评估CNN到FPGA的工具流？
提出了一种统一的评估方法，以全面评估CNN-to-FPGA工具流的关键特性。
Edge TPU在CNN上的表现如何？
Edge TPU在不同计算生态中的性能表现良好，适用于高精度机器学习模型。
如何提高ReRAM的容错性？
提出了一种差分映射方案，以提高ReRAM的容错性，容忍高达一个数量级的故障率。
动态流式传输模型参数的优势是什么？
动态流式传输模型参数可以实现可扩展和动态分布式CNN推断，提升边缘设备性能。
