本文研究了对齐微调对大型语言模型的影响,发现对齐微调过程对模型性能有负面影响,导致模型性能下降并恢复到预训练阶段的分布。模型的弹性与模型大小增加和预训练数据的扩展有正相关性,表明了驯化大型语言模型固有的弹性的重要性。
完成下面两步后,将自动完成登录并继续当前操作。