BriefGPT - AI 论文速递 · 2024-01-29T00:00:00Z

迭代数据平滑：在 RLHF 中缓解奖励过拟合和过优化

📝

内容提要

本文提出了解决强化学习困难的方法，包括使用多个奖励模型进行数据评估和投票机制消除数据中的错误和模糊偏好，引入对比学习和元学习增强奖励模型的区分能力和泛化能力，实现迭代优化。

🏷️

标签

奖励模型 对比学习 强化学习 投票机制 数据评估