RM-Bench: A Benchmark for Subtle Differences and Style Bias in Language Model Reward Models

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了RM-Bench基准,解决奖励模型评估中的细微内容变化和风格偏见问题。评估近40个模型,结果显示在风格偏见下平均性能仅为46.6%,表明有很大改进空间,为提升语言模型对齐效率提供了参考。

🏷️

标签

➡️

继续阅读