该研究提出了一种新方法EoRA，解决压缩模型中的误差补偿问题，能够快速优化并显著提升LLaMA2/3模型的性能，为大语言模型的部署提供有效工具。

我们提出了一种新颖的通道修剪方法，通过评估通道对潜在向量扰动的敏感性，增强了压缩模型中样本的多样性。该方法在各种数据集中显著提升了样本的多样性，并且在 FID 得分方面超过了最先进的方法，且只需一半的训练迭代次数。