BriefGPT - AI 论文速递 · 2023-10-18T00:00:00Z

通过群不变学习提高对人类偏好的对齐的泛化能力

📝

内容提要

该文介绍了应用偏好建模和强化学习的方法将语言模型优化为有帮助和无害的助手，提高了自然语言处理评估表现。同时，研究了强化学习从人类反馈中学习的鲁棒性和重要性，并对校准、竞争目标和OOD检测的使用进行了边缘分析。

🏷️

标签

OOD检测 偏好建模 强化学习 自然语言处理 鲁棒性