超越模仿：利用细粒度质量信号进行对齐
我们提出了一种名为 FIGA 的改进对齐方法，通过利用细粒度的质量信号，即对比好坏回答的方式，指导大型语言模型的对齐学习。实验证明了我们的方法的有效性。
该研究提出了一种名为SALMON的新方法，使用少量人定的原则和基于合成偏好数据训练的奖励模型，实现了对基础语言模型的自动对齐，提高了监督效率、可控性和可扩展性。在各种基准数据集上显著超越了几种最先进的人工智能系统，包括LLaMA-2-Chat-70b。
BriefGPT - AI 论文速递 -
