自动微分跨条件分支的平滑方法

💡 原文中文,约500字,阅读约需2分钟。
📝

内容提要

该论文介绍了一种将平滑解释与自动微分相结合的方法,以高效计算平滑程序的梯度。该方法在四个非平凡的问题上进行了比较,具有竞争力,在最高维问题中具有明显最快的收敛速度。

🎯

关键要点

  • 论文介绍了一种将平滑解释与自动微分相结合的方法。
  • 该方法旨在高效计算平滑程序的梯度。
  • 控制流结构中的不连续性对数学优化方法构成挑战。
  • 结合平滑解释和自动微分可以直接基于梯度进行参数综合。
  • 提出了一种新的蒙特卡罗估计器,通过AD和抽样组合来估计平滑程序的梯度。
  • 使用工具DiscoGrad将C++程序自动转换为平滑可微形式。
  • 在四个非平凡问题上与现有方法进行了比较。
  • 蒙特卡罗估计器在所有问题中表现竞争力,尤其在高维问题中收敛速度最快。
➡️

继续阅读