该文综述张量分解在语言模型压缩中的应用,涵盖Kronecker分解、张量列分解、量化感知训练等方法,可将GPT、BERT、LLaMA等模型压缩至原大小的5%至1/48,并在多项NLP基准上保持或提升性能,显著加速推理,适合边缘设备部署。
完成下面两步后,将自动完成登录并继续当前操作。