本研究提出了一种稀疏训练策略，旨在解决多任务学习中的梯度冲突问题。通过部分参数更新，稀疏训练有效减轻了梯度冲突，提高了模型性能，并可与现有技术结合使用。

本文提出了一种新型模型不可知剪枝方案，通过梯度衰减和自适应分层蒸馏来优化稀疏训练，以提高视频编码器的压缩效率。实验结果表明，该方法在减少计算开销的同时提高了速度和保持了视频质量。

该研究设计了一种稀疏训练过程，通过考虑激活的最终位置来诱导半结构化激活稀疏性。在图像分类和目标检测任务中评估，结果显示该方法在ResNet18模型上实现了1.25倍的加速，仅有1.1%的最小精度降低。与结构化剪枝方法相结合，该方法在延迟和准确性之间取得了平衡，优于仅采用结构化剪枝技术的模型。