通过策略差异估计在表格强化学习中减少样本复杂度
原文中文,约300字,阅读约需1分钟。发表于: 。本文研究了上下文赌博机和表格强化学习中纯探索问题的非渐进样本复杂度,通过识别高概率下一组策略的 ε 最优策略。我们发现在上下文赌博机中估计策略行为的差异可以识别出最佳策略,但是在表格强化学习中不成立,这表明上下文赌博机和强化学习之间存在差异。然而,受此启发,我们证明只需要估计强化学习策略与一个参考策略的差异几乎足够,并开发了一个算法,得到了迄今为止对表格强化学习的样本复杂性的最紧密已知界限。
本文研究了上下文赌博机和表格强化学习中纯探索问题的非渐进样本复杂度。通过识别高概率下一组策略的ε最优策略,发现上下文赌博机中估计策略行为的差异可以识别出最佳策略,但在表格强化学习中不成立。然而,受此启发,证明只需要估计强化学习策略与一个参考策略的差异几乎足够,并开发了一个算法,得到了迄今为止对表格强化学习的样本复杂性的最紧密已知界限。