本文介绍了一种名为norm tweaking的技术，旨在提高大型语言模型的量化精度和效率。研究表明，通过改进权重和激活的量化方法，在低比特量化情况下，模型性能可与浮点模型相当。此外，自适应通道重组和混合精度量化方法显著提升了模型的准确率和计算效率，为未来AI硬件设计提供了新思路。

本文介绍了一种名为norm tweaking的技术，可作为当前PTQ方法的插件使用，以实现高精度且成本效益的模型压缩。通过更新归一化层的权重，该方法在权重量化和权重与激活联合量化方面取得了显著的改进，在2位量化情况下甚至达到与浮点数模型相同的精度水平。该方法简单有效，适用于实际应用。