Multi-Step Alignment as Markov Games: An Optimistic Online Gradient Descent Method with Convergence Guarantees

本文提出了一种将对齐问题建模为马尔可夫游戏的方法，解决了人类反馈下的强化学习在多轮对话中的应用限制。新方法Multi-step Preference Optimization (MPO)基于乐观在线梯度下降算法，理论分析表明其能有效收敛到近似纳什均衡，并在实验中验证了其有效性。