本研究提出了一种名为VAQF的框架,可在FPGA平台上构建量化的ViT模型推理加速器,并自动输出所需的量化精度和优化参数设置,以满足帧速率要求。实验结果表明,使用8位激活量化可满足24帧每秒的要求,使用6位激活量化可达到30帧每秒的目标。
完成下面两步后,将自动完成登录并继续当前操作。