本研究提出了一种新的大语言模型对齐损失方法,通过在优化中引入稳定的双向负反馈(BNF),解决了DPO及其变种对超参数敏感和不稳定的问题。实验表明,BNF在QA基准上表现良好,推理基准的性能下降明显低于最佳方法,实现了价值对齐与推理能力的更好平衡。
本文介绍了一种名为MIM的预训练方法,通过人体部位的引导来指导掩码采样过程,更好地捕捉人体结构信息。提出了一种结构不变的对齐损失,通过人体部位先验来引导不同的掩码视图在同一图像上紧密对齐。该方法命名为HAP,在11个人体为中心的基准测试上取得了新的最高性能。
完成下面两步后,将自动完成登录并继续当前操作。