我们提出了一种新的权重量化方法A2Q，用于训练量化神经网络，避免低精度累加器溢出。A2Q通过约束权重的L1范数，促进稀疏性，确保溢出避免。在计算机视觉任务中，A2Q在保持准确性的同时，提高FPGA资源效率，资源利用率降低2.3倍，准确性保持在99.2%。