TeMPO: 高效的时间多路复用动态光子张量核用于紧凑的慢光电光调制器边缘人工智能
内容提要
本文综述了光子计算与光神经网络的最新进展,涵盖可编程光子张量芯片M3ICRO、能效超电子TPU两三个数量级的集成光子TPU、加速机器学习的2.5D光电芯片、优化任务卸载的IOPO、实现图像分类的混合光电架构、降低损耗的MOON与MOMZI、提升能效的PoT量化、首超AlexNet的大核卷积光学网络、降低能耗延迟的ODiMO,并回顾了集成光子神经形态系统的挑战。
延伸解读
光子计算在边缘AI中的能效优势
文章指出,集成光子TPU利用波长分割复用和相变材料,能效比电子TPU高2-3个数量级,且芯片面积相近。这表明光子专用处理器在增强电子系统方面潜力巨大,尤其适合5G网络及其后的边缘设备。
混合光电架构的实用化进展
混合光电架构结合自由空间光学前端和电子后端,在图像分类任务中达到87%的精度。同时,基于MOON和MOMZI的光学点积引擎在街景房号识别中实现85.89%的精度,且具有更低的传播损耗和光学延时,展示了光电混合计算的实际可行性。
光学神经网络首次超越AlexNet的意义
基于大核空间可变卷积神经网络的光学处理器在CIFAR-10上达到73.80%的盲测准确度,首次超越数字神经网络AlexNet(72.64%)。这标志着光学神经网络跻身现代深度学习时代,为未来高能效AI硬件提供了新方向。
硬件感知映射与量化技术的优化效果
ODiMO工具通过精细映射不同加速器并行执行DNN层,在DIANA异构SoC上降低能量/延迟33%/31%,精度仅下降0.53%/0.32%。同时,PoT量化在FPGA上实现至少1.4倍的能效提升,这些技术共同推动了边缘AI的实用化。
Q&A
M3ICRO是什么?它有什么特点?
M3ICRO是一种基于多路多模干涉(MOMMI)器件定制的可编程光子张量芯片,具有高能效、小体积以及优异的噪声鲁棒性。
光子TPU相比电子TPU有哪些优势?
光子TPU利用波长分割复用、纳秒级延迟和基于相变材料的光学多态存储器,性能比电子TPU高2-3个数量级,而占用的芯片面积类似。
IOPO是什么?它有什么作用?
IOPO是一个基于深度学习的优化框架,可以在毫秒之内生成高效节能的任务卸载决策,并且在处理解决方案空间广泛的复杂问题时,相较于其他基准方法性能更优。
混合光电架构在图像分类任务中表现如何?
混合光电架构利用自由空间光学前端单元实现第一层的线性操作,然后通过电子方式实现后续层,在Kaggle猫狗挑战数据库中获得了87%的图像分类精度。
PoT量化如何提升神经网络加速器的能效?
通过使用二次幂量化和基于位移乘累加运算代替传统的乘累加运算,以及基于对数量化的新型剪枝方法,在基于Zynq UltraScale+ MPSoC ZCU104 SoC FPGA的硬件神经网络加速器中实现了Power-of-Two (PoT)权重,实现了至少1.4倍的能效提升。
ODiMO是什么?它有什么效果?
ODiMO是一种硬件感知工具,用于精细映射芯片上的不同加速器,以并行执行DNN的不同层,从而降低推理能量消耗或延迟。在DIANA异构超低功耗边缘AI SoC上部署后,ODiMO将能量/延迟降低了33%/31%,而精度下降有限(-0.53%/-0.32%)。