本论文提出了Stable-SPAM方法，解决了4位训练中的梯度不稳定和学习率敏感问题。通过增强梯度归一化和剪切技术，Stable-SPAM显著提高了训练的稳定性和性能，优于基于Adam的模型，并减少了训练步骤。

本研究探讨了大型语言模型（LLMs）训练中快速与慢速思维的影响，发现慢速思维的梯度更稳定，能够有效区分推理路径，从而为提高训练效率提供新见解。