基于微环的非相干光子 GEMM 加速器的比较分析
内容提要
该文汇总多项光子神经网络加速器研究,包括可重构微环CNN加速器、毫米波天线阵列强化学习优化、微环谐振器储备池计算物理效应分析,以及HEANA混合模拟光学加速器、光学随机计算加速器、M3ICRO可编程光子张量芯片、抗噪硅光加速器、基于RNS的Mirage训练加速器和模拟ReRAM跨栅设计,这些研究均显著提升了速度与能效。
延伸解读
可重构微环加速器的性能提升
文章指出,引入可重构性的微环谐振器CNN加速器能动态匹配硬件与CNN张量大小,从而提高并行性和效率。评估显示,相比先前MRR加速器,在FPS和FPS/W上分别提升1.8倍和1.5倍。这表明可重构设计是提升光子加速器实用性的有效途径。
储备池计算中的物理效应影响
针对微环谐振器的时间延迟光子储备池计算,数值分析揭示了不同物理效应对预测准确性的影响,并定义了线性到非线性的三个腔体转变区域。其中一区域在输入功率和光源与微环谐振频差之间表现出较低预测误差,为优化设计提供了具体方向。
混合与随机计算加速器的能效优势
HEANA混合时间-幅度模拟光学加速器采用平衡光电荷累加器,实现66倍FPS和84倍FPS/W提升。基于光学随机计算和激光环共振器的加速器在高精度量化CNN推理中效率提升达66.5倍。这些方案通过混合或随机计算范式,显著提高了能效比。
训练加速与噪声鲁棒性挑战
Mirage基于残留数系统的光子DNN训练加速器,相比系统阵列平均实现23.8倍更快训练速度、32.1倍更低能耗,并在等面积场景下降低42.8倍功耗。同时,硅光加速器受光学损耗和串扰噪声影响,导致推理准确性下降和功耗惩罚,提示噪声管理是实际部署的关键。
Q&A
基于微环谐振器的可重构CNN加速器相比传统MRR加速器有哪些性能提升?
该加速器通过引入可重构性动态最大化硬件组件与CNN张量的大小兼容性,从而提高并行性、灵活性、效率、速度和整体能效。在四个现代CNN推理中评估,相比先前工作的MRR加速器,FPS提高了1.8倍,FPS/W提高了1.5倍。
微环谐振器在时间延迟光子储备池计算中,不同物理效应如何影响预测准确性?
通过数值分析发现,不同物理效应对数据预测准确性有影响,研究结果揭示了三个区域,定义了线性到非线性的腔体转变。其中一个区域在输入功率和光源与微环谐振频差之间表现出较低的预测误差。
HEANA混合模拟光学加速器采用了哪些关键技术,性能提升如何?
HEANA采用混合时间-幅度模拟光学乘法器和平衡光电荷累加器,能够提供66倍的FPS和84倍的FPS/W的改进。
Mirage光子DNN训练加速器基于什么技术,相比传统系统阵列有哪些优势?
Mirage基于残留数系统(RNS)和光子学相结合,提供高能效、高精度且能成功训练与FP32相媲美的DNNs。相比系统阵列,平均可实现超过23.8倍的更快训练速度、32.1倍的更低能耗与相当或更好的效率-功耗比(EDP)在等能端景下,以及42.8倍的更低功率消耗在等面积场景下。
硅光神经网络加速器(SP-NN)面临哪些主要挑战?
SP-NN受到光学损耗和串扰噪声的影响,从而导致网络推理准确性下降并且能达到高功耗惩罚。
基于光学随机计算和激光环共振器的神经网络加速器在效率和能效方面表现如何?
该加速器在高精度量化的卷积神经网络推理中能提供高达66.5倍的效率提升,并具有非常高的能效比。