小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本研究提出了GVM-RAFT动态样本分配策略,以解决大语言模型中链式思维推理训练的梯度估计效率低下问题。该方法在数学推理实验中实现了2-4倍的速度提升和显著的准确性改进,展示了在强化学习中的应用潜力。

Optimizing Chain-of-Thought Reasoners in Rejection Sampling and Reinforcement Learning via Gradient Variance Minimization

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-05T00:00:00Z

本研究提出了一种基于有限时域梯度估计的安全强化学习方法(CGPO),有效解决了现有方法在有限时域非折扣约束估计中的问题。研究表明,该方法能够有效估计约束变化,确保安全策略更新的效率和可行性。

Safe Reinforcement Learning using Finite-Horizon Gradient Estimation

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-15T00:00:00Z

本研究提出了一种新颖的生成对抗网络(GAN)训练框架,旨在解决模式崩溃带来的不稳定性问题,提升训练效率并降低梯度估计方差,为生成公平的合成数据提供新思路。

Parallel Temperature Generative Adversarial Network

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-18T00:00:00Z

本研究探讨算法决策引发的数据分布变化,提出了一种新方法将这些变化建模为推动测度。通过关注转变算子,开发了新的梯度估计,提升了学习策略的效率与可扩展性。研究表明,模型部署的准确性与分类难度之间存在联系。

Optimal Classification under Performative Distribution Shift

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-04T00:00:00Z

本研究提出了一种随机平滑理论,用于在不可微函数中进行梯度估计。该方法无需可微密度或完整支持,提供了通用框架,有效减少梯度估计的方差。

推广随机平滑技术用于微分和梯度估计

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-10T00:00:00Z

本文探讨了随机计算图在自动推导损失函数梯度中的应用,提出了一种新的算法以统一现有的梯度估计器。研究分析了梯度下降算法在非凸优化中的表现,强调了学习率和批处理大小等因素对优化结果的影响。此外,介绍了随机梯度下降在概率建模和深度学习中的应用及其在复杂模型中的有效性。

随机和确定模型中的渐变估计和方差减少

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-14T00:00:00Z

本文介绍了一种改进的基于 policy gradient 的强化学习算法,通过探索参数空间、重用过去的数据和确定性行为策略等技术,提高了数据效率,降低了梯度估计的方差并避免了局部最优解。实验表明,该算法相较于标准的 policy gradient 方法,能够使用更少的系统交互来学习解决方案。

连续控制中的政策优化问题:噪声邻域下的回报景观

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-09-26T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码