研究提出了一种自我监督的互信息对齐方法(SAMI),用于优化多任务环境中的语言模型。SAMI通过增强行为偏好与模型响应的联系,在多任务测试中表现出色,尤其在数学准确性上有显著提升。该方法无需偏好标签或示范,能够在对话和摘要任务中超越预训练和微调模型,为模型优化提供了新思路。
完成下面两步后,将自动完成登录并继续当前操作。