HEANA: 一种用于能效高的卷积神经网络推理的混合时幅模拟光学加速器
内容提要
本文综述了多种神经网络加速器研究，包括基于微环谐振器的光子CNN加速器、光学随机计算、模拟ReRAM、TIMELY存内计算、BEANNA、AnalogNAS、PhotoHDC和Mirage等。这些方案在能效、吞吐量和面积效率上较传统设计显著提升，部分提升达数十倍。
延伸解读
可重构光子加速器的设计思路
文章提到一种基于微环谐振器的CNN加速器，通过引入可重构性来动态匹配硬件组件与CNN张量的大小，从而提升并行性、灵活性和能效。评估显示，相比先前MRR加速器，在FPS和FPS/W上分别提升1.8倍和1.5倍。这提示读者，光子加速器的优化不仅依赖器件本身，架构层面的动态适配同样关键。
模拟计算与存内计算的能效优势
综述涵盖多种模拟与存内计算方案：光学随机计算结合激光环共振器可实现高达66.5倍的效率提升；模拟ReRAM跨栅执行矩阵操作比数字版本更节能；TIMELY通过模拟数据局部性和时域接口提升能效。这些案例表明，在特定工作负载下，模拟和存内计算能显著突破传统数字设计的能效瓶颈。
调制顺序对光子GEMM的影响
针对基于MRR的模拟光子GEMM，文章比较了MASW、ASMW和SMWA三种调制顺序。结果显示，SMWA组织在吞吐量、能效和面积能量效率上分别比ASMW和MASW平均提升多达4.4倍、5倍和5.2倍。这说明在光子矩阵乘法中，调制顺序的选择会显著影响串扰噪声、光损耗以及系统级性能，是设计时需权衡的重要因素。
光子DNN训练与推理的进展
PhotoHDC是首个用于HDC训练和推断的电光子加速器，其能量延时积比最先进的电光子DNN加速器低两到五个数量级。Mirage则利用残留数系统进行光子DNN训练，训练速度平均提升23.8倍，能耗降低32.1倍。这些进展表明，光子计算正从推理向训练扩展，并在能效和速度上展现出潜力。
Q&A
HEANA是什么？它有什么特点？
HEANA是一种混合时幅模拟光学加速器，用于能效高的卷积神经网络推理。它通过引入可重构性，动态最大化加速器硬件组件与CNN张量之间的大小兼容性，从而提高并行性、灵活性、效率、速度和整体能效。在四个现代CNN的推理中评估，相比先前工作中的MRR加速器，在FPS和FPS/W方面分别提高了1.8倍和1.5倍。
基于微环谐振器的光子CNN加速器有哪些性能提升？
基于微环谐振器（MRR）的光子CNN加速器通过引入可重构性，动态最大化硬件与CNN张量的大小兼容性，从而提高并行性、灵活性、效率、速度和能效。在四个现代CNN推理中，相比先前MRR加速器，FPS提高1.8倍，FPS/W提高1.5倍。
光学随机计算神经网络加速器有什么优势？
基于光学随机计算和激光环共振器技术的神经网络加速器，在高精度量化的卷积神经网络推理中能提供高达66.5倍的效率提升，并具有非常高的能效比。
模拟ReRAM加速器与数字ReRAM和SRAM相比有何优势？
模拟ReRAM加速器使用模拟电阻式存储器跨栅执行关键矩阵操作，与使用数字ReRAM和SRAM操作的相关设计相比，具有能效更高的优势，并且可以成为进一步架构研究的基础。
TIMELY加速器采用了哪些技术？性能如何？
TIMELY是一种处理内存加速器，采用模拟数据局部性、时域接口和仅一次输入读取的映射方法，最大限度地提高能效。在能效、计算密度和吞吐量上优于已有的R²PIM加速器。
BEANNA架构有什么特点？
BEANNA是一种用于神经网络加速的二进制启用体系结构，采用16x16 systolic array矩阵乘法器和可同时处理浮点数和二进制乘加的处理单元。它可以在高精度浮点数和二进制网络层之间无缝切换，并在混合网络上实现显著的加速和能耗、内存降低。
AnalogNAS是什么？它的目标是什么？
AnalogNAS是一种自动化DNN设计框架，目标是部署在模拟内存计算推理加速器上。通过大量硬件模拟，展示其在各种TinyML任务上的性能，以及在64核IMC芯片上实现的模型较SOTA模型具有更高的准确性。
PhotoHDC加速器在能量延时积方面表现如何？
PhotoHDC是第一个用于HDC训练和推断的电光子加速器，支持基本的、记录的和图形编码方案。评估显示，在实现HDC训练和推断方面，其能量延时积比最先进的电光子DNN加速器低两到五个数量级，比基于CiM的加速器低四个数量级。
Mirage光子DNN训练加速器有哪些性能优势？
Mirage是一种基于残留数系统（RNS）的光子DNN训练加速器，通过结合RNS和光子学，提供高能效、高精度且能成功训练与FP32训练相媲美的DNNs。相比系统阵列，平均可实现超过23.8倍的更快训练速度、32.1倍的更低能耗与相当或更好的效率-功耗比（EDP），在等面积场景下功耗降低42.8倍。
