FSL-HDnn:一种具有特征提取和超维计算的端到端少样本学习分类器加速器,能效为5.7 TOPS/W

💡 原文中文,约1600字,阅读约需4分钟。
📝

内容提要

本文介绍了一种新型加速器,能够在1.2V下实现1510 GOp/s的运算速度,0.6V下功耗为895 μW,显著提高了能量和面积效率。同时,提出了FixyNN方案、FracBNN模型和MHFC算法,分别针对特征提取、少样本学习和数据稀缺问题进行了优化,提升了分类性能。此外,文中还介绍了超高维计算系统和PhotoHDC电光子加速器,展示了其在分类任务中的应用潜力。

🎯

关键要点

  • 一种新型加速器在1.2V下实现1510 GOp/s运算速度,0.6V下功耗895 μW,显著提高能量和面积效率。
  • FixyNN方案结合固定权重特征提取器和可编程CNN加速器,实现高准确率和能耗控制。
  • FracBNN模型通过分数激活方法解决旧模型在现实数据集上的表现问题,模型尺寸减少2.5倍,适用于实时图像分类。
  • MHFC算法解决Few-shot Learning中的数据稀缺问题,通过子空间学习和注意力模块提升特征鉴别性,实验结果显著提升2.1%-7.8%。
  • 超高维可重构分析系统(HyDRATE)利用低功耗硬件和超维计算加速器实现实时重新配置,展示性能随超维数增加而提高。
  • 编译器工具“ame{}”将高维超向量分类方法翻译为优化的C代码,训练和推断速度提高25倍至132倍,内存使用减少5倍至158倍。
  • 扩展超维计算训练过程的方法提高分类准确性,已在多个数据集上验证有效性。
  • PhotoHDC是第一个用于HDC训练和推断的电光子加速器,能量延时积显著低于现有电光子DNN加速器。

延伸问答

FSL-HDnn加速器的运算速度和功耗是多少?

FSL-HDnn加速器在1.2V下实现1510 GOp/s的运算速度,0.6V下功耗为895 μW。

FixyNN方案的主要特点是什么?

FixyNN方案结合固定权重特征提取器和可编程CNN加速器,实现高准确率和能耗控制。

FracBNN模型如何提高分类性能?

FracBNN模型通过分数激活方法解决旧模型在现实数据集上的表现问题,模型尺寸减少2.5倍,适用于实时图像分类。

MHFC算法是如何解决数据稀缺问题的?

MHFC算法通过子空间学习和注意力模块提升特征鉴别性,显著提高了分类性能,实验结果提升2.1%-7.8%。

超高维可重构分析系统(HyDRATE)的优势是什么?

HyDRATE利用低功耗硬件和超维计算加速器实现实时重新配置,性能随超维数增加而提高。

PhotoHDC电光子加速器的能量延时积表现如何?

PhotoHDC的能量延时积显著低于现有电光子DNN加速器,低两到五个数量级。

➡️

继续阅读