TeMPO: 高效的时间多路复用动态光子张量核用于紧凑的慢光电光调制器边缘人工智能

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

该研究提出了一种硬件感知工具ODiMO,用于映射芯片上的不同加速器,以降低推理能量消耗或延迟。在实验中,ODiMO成功降低了能量/延迟,而精度下降有限。

🎯

关键要点

  • 该研究提出了一种硬件感知工具ODiMO。
  • ODiMO用于精细映射芯片上的不同加速器,以并行执行DNN的不同层。
  • ODiMO旨在降低推理能量消耗或延迟。
  • 在三个流行的数据集/DNN对上,ODiMO追求精度与能量或延迟空间中的Pareto最优网络。
  • ODiMO在DIANA异构超低功耗边缘AI SoC上部署后,能量/延迟分别降低了33%和31%。
  • ODiMO的精度下降有限,仅为-0.53%/-0.32%。
  • 与手动启发式映射相比,ODiMO表现更优。
➡️

继续阅读