该研究提出了一种名为“政策的层级化管弦乐队”(HOP)的方法,旨在解决强化学习中的灾难性遗忘问题。HOP通过动态构建政策层级,能够在没有任务标签的情况下适应模糊的任务边界,实验结果表明其在多个任务中有效保留知识,展现出优越的灵活性。
该研究评估了语言模型在模糊任务中的表现,并提出了新的测试集。175B参数的模型和使用人类反馈数据进行训练可以在模糊分类任务上超过或接近人类的准确度,但仅有其中一个是不足的。通过微调可以显著提高没有大规模人类反馈训练的语言模型的准确性,为教授模型有效地处理模糊性问题提供了有希望的方向。
完成下面两步后,将自动完成登录并继续当前操作。