自动微分跨条件分支的平滑方法
💡
原文中文,约500字,阅读约需2分钟。
📝
内容提要
该论文介绍了一种将平滑解释与自动微分相结合的方法,以高效计算平滑程序的梯度。该方法在四个非平凡的问题上进行了比较,具有竞争力,在最高维问题中具有明显最快的收敛速度。
🎯
关键要点
- 论文介绍了一种将平滑解释与自动微分相结合的方法。
- 该方法旨在高效计算平滑程序的梯度。
- 控制流结构中的不连续性对数学优化方法构成挑战。
- 结合平滑解释和自动微分可以直接基于梯度进行参数综合。
- 提出了一种新的蒙特卡罗估计器,通过AD和抽样组合来估计平滑程序的梯度。
- 使用工具DiscoGrad将C++程序自动转换为平滑可微形式。
- 在四个非平凡问题上与现有方法进行了比较。
- 蒙特卡罗估计器在所有问题中表现竞争力,尤其在高维问题中收敛速度最快。
➡️