rsl_rl——人形运控部署框架汇总：从经典RL框架rsl_rl到宇树开源的unitree_rl_gym(含unitree_sdk2_python)

本文介绍了一个强化学习框架rsl_rl，重点解析了其PPO算法的实现。该框架包含Actor-Critic网络（包括普通版、CNN版、历史记忆版和RNN版）、PPO算法实现、训练运行器等核心组件。在PPO实现部分，详细说明了其初始化过程、动作选择、环境交互处理、回报计算和参数更新机制。其中参数更新采用了裁剪优势估计、自适应学习率调整等技术，通过代理损失、价值函数损失和熵奖励三部分构成总损失进行...