RePO: ReLU-based Preference Optimization

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种新的ReLU-based Preference Optimization (RePO)算法,旨在解决大型语言模型与人类偏好对齐中的计算和稳定性问题。RePO简化了调参过程,提升了模型性能,实验证明其在多个基础模型上优于现有方法DPO和SimPO。

🏷️

标签

➡️

继续阅读