本文介绍了一种名为norm tweaking的技术,可作为当前PTQ方法的插件使用,以实现高精度且成本效益的模型压缩。通过更新归一化层的权重,该方法在权重量化和权重与激活联合量化方面取得了显著的改进,在2位量化情况下甚至达到与浮点数模型相同的精度水平。该方法简单有效,适用于实际应用。
完成下面两步后,将自动完成登录并继续当前操作。