大型语言模型的内化自我纠正
📝
内容提要
本研究解决了大语言模型在推理时自我反思的不足，通过引入“内化自我纠正”（InSeC）的方法，结合负采样、训练中的自我反思和推理过程，使模型在训练中引入错误及其相应的修正，从而将学习过程转化为真正的监督学习任务。该方法有助于改善模型的指令跟随能力，并纠正生成的错误句子或虚假信息。
🏷️
➡️
