本文研究了大型语言模型的对齐微调对性能的影响,发现对齐微调可能导致性能迅速下降,并强调模型的弹性与模型大小及预训练数据的扩展正相关。此外,提出了双向对齐方法以提升小模型的能力,并指出对齐方法在内容安全方面的负面影响,呼吁更先进的缓解策略。
完成下面两步后,将自动完成登录并继续当前操作。