重新参数化的变分拒绝抽样
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
本文介绍了一种新型的变分方法——变分Renyi界限(VR),通过参数化散度的Alpha值,实现了从证据下限到对数似然的平滑插值。实验证明了VR界限在贝叶斯神经网络和变分自编码器上的广泛适用性。
🎯
关键要点
- 本文介绍了变分 Renyi 界限 (VR),扩展了传统的变分推理。
- VR 方法统一了许多现有方法,通过参数化散度的 Alpha 值实现平滑插值。
- 采用重参数化技巧、蒙特卡罗近似和随机优化方法,建立了统一的优化框架。
- 考虑了负 Alpha 值,并提出了一种新的变分推理方法。
- 实验证明 VR 界限在贝叶斯神经网络和变分自编码器上的广泛适用性。
➡️