本文研究了量化对大型语言模型的影响，发现4位量化模型在新兴能力上表现良好，而2位模型性能显著下降。通过块量化技术，实现了几乎无损的6位量化，提升了计算和内存效率。此外，提出了激活量化感知和序列长度感知等创新技术，显著提高了任务准确度，为大型语言模型的高效部署提供了新思路。