本研究提出了一种新方法，通过引入中间层改善梯度传播，提升动态稀疏训练在大输出空间分类任务中的效率，恢复密集模型的泛化性能，实现高效训练。

本文提出了一种CLNP方法，通过神经模型稀疏化实现全生命周期学习，避免灾难性遗忘。实验证明该方法在连续学习中优于现有技术，并引入生物启发机制以提升表现。同时，研究探讨了动态稀疏训练对连续学习的影响，强调适应性在提升学习效果中的重要性。

本文介绍了基于超网络的通用框架HyperST-Net，应用于时空数据建模与预测，显著提高了犯罪和交通预测的准确性。同时，探讨了动态稀疏训练和Transformer模型在图像生成及时空数据填补中的应用，展示了其在多种任务中的优越性能。