研究表明，参数扩展显著影响大型语言模型的核心能力。权重剪枝和模型大小调整会影响模型的事实回忆和上下文处理能力。模型大小减少30%会显著降低回忆能力，而减少60-70%仍能保持上下文处理能力。

研究发现，对大型语言模型进行参数扩展会影响其回忆能力和处理上下文信息的能力。减少模型大小30%以上会降低回忆预训练中的事实能力，但减少60-70%则保留了处理上下文信息的能力。密集扩展和权重剪枝都表现出这种行为。