大语言模型后训练量化中的块间交互

本研究探讨了大语言模型后训练量化中的量化简化问题，重点分析各层的量化误差。引入两种微调策略，相较于单一微调，效果因模型而异，对某些模型有显著提升。