本文介绍了一种名为ALPS的基于优化的框架，用于处理修剪问题。ALPS通过操作拆分技术和预条件共轭梯度后处理步骤，结合向量化和GPU并行性，提高了效率。在修剪目标和困惑度降低方面，ALPS超过了现有方法，特别是对于高度稀疏的模型。在OPT-30B模型上，ALPS在WikiText数据集上实现了13%的测试困惑度减少和19%的零样本基准性能提高。

本文介绍了一种名为ALPS的基于优化的框架，用于处理修剪问题。ALPS通过操作拆分技术和预条件共轭梯度后处理步骤，结合向量化和GPU并行性，提高了效率。ALPS在修剪目标和困惑度降低方面超过了现有方法，特别是对于高度稀疏的模型。在OPT-30B模型上，ALPS在WikiText数据集上实现了13%的测试困惑度减少和19%的零样本基准性能提高。