FlowPrecision: 使用线性量化提升基于 FPGA 的实时流体流动估计
内容提要
综述了FPGA与微控制器协同的软传感器及神经网络量化加速研究，涵盖定点量化、混合精度、极低比特网络、二值化YOLOv2、HAWQ、CascadeCNN等方案，在CIFAR-10、ImageNet及粒子物理任务中实现高能效实时推理，最高达10.3 TOPS、每瓦325.3张图像。
延伸解读
FPGA与微控制器协同的软传感器优势
文章指出，利用FPGA和微控制器的协同整合，可以提升传感器融合和感知能力，并改善能源效率。这种软传感器部署方式为实时推理任务提供了一种高效创新的解决方案，尤其适合对功耗和实时性有严格要求的边缘计算场景。
量化技术在FPGA上的能效表现
通过定点量化、混合精度和极低比特网络等技术，FPGA能够实现高能效的神经网络推理。例如，混合量化方案在嵌入式FPGA上达到10.3 TOPS的性能，每瓦可分类325.3张图像，显示出比GPU和其他FPGA实现更省能的优势。
自动化工具流程推动模型部署
文章介绍了多种自动化工具流程，如从TensorFlow模型到二值化YOLOv2的转换、HAWQ量化结合QONNX和hls4ml，以及CascadeCNN量化极限探索。这些工具简化了FPGA部署，并在目标检测和粒子物理等任务中验证了性能提升。
Q&A
FPGA 和微控制器如何协同实现实时流体流动估计？
文章指出，通过在设备上部署软传感器，并利用 FPGA 和微控制器单元的协同整合，可以提高传感器融合和感知能力，改善能源效率，从而高效地执行实时推理任务。
在 FPGA 上实现神经网络量化有哪些常见方法？
文章提到了多种量化方法，包括固定点量化（如 QFX）、混合量化方案、极低比特宽度神经网络（ELB-NN）、二值化 YOLOv2、Hessian-aware quantization (HAWQ) 以及 CascadeCNN 等。
混合精度量化在 FPGA 加速中有什么优势？
混合精度量化可以减少计算和数据传输成本，实现高精度和高性能的权衡。例如，通过混合量化方案加速极低比特宽度神经网络，可以在资源和功耗限制下实现高达 10.3 TOPS 的性能，每瓦分类达到 325.3 张图像。
二值化 YOLOv2 在 FPGA 上的实现效果如何？
文章提到，在 Cyclone-V FPGA 设备上实现了二值化的 YOLOv2，实验证明与 CPU 和移动 CPU 平台相比，在 FPGA 上进行二值化量化的模型大小和推理速度都有显著的性能提升。
CascadeCNN 工具流程如何提升 CNN 在 FPGA 上的性能？
CascadeCNN 是一个自动化工具流程，通过级联低-高精度单元和置信度评估单元，定制 CNN-FPGA 配对，在相同资源预算和准确性下，使 VGG-16 性能提升高达 55%，AlexNet 提升高达 48%，且无需重新训练模型或访问训练数据。
HAWQ 量化方法在粒子物理中有什么应用？
文章提到，利用 Hessian-aware quantization (HAWQ) 来量化神经网络，并通过 Quantized Open Neural Network Exchange (QONNX) 中间表示和 hls4ml 工具流程将神经网络高效地实现在 FPGA 和 ASIC 固件上，在粒子物理应用程序中展示了该工作流程，包括使用混合精度 NN 分类器对 HLC 质子-质子碰撞中的高动量粒子喷流进行优化。
