语言模型对齐中奖励模型的鲁棒性研究

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

本文探讨了基于人类反馈的强化学习中奖励模型过度优化的问题,提出了一种新正则化方法——批量归零正则化(BSR),显著提升了模型的鲁棒性和泛化能力。

🏷️

标签

➡️

继续阅读