通过$f$-散度损失函数在密度比估计中的$L_p$误差界限
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
本文从最大似然密度比估计的角度统一解释了KL散度和积分概率度量。通过不同的样本采样方案,将它们表示为最大似然估计值,导出IPMs的统一形式和松弛估计方法。提出了密度比度量(DRMs),连接了KL散度和IPMs,并应用于密度比估计和生成对抗网络。实验验证了该方法的有效性。
🎯
关键要点
- 本文从最大似然密度比估计的角度统一解释KL散度和积分概率度量(IPMs)。
- KL散度和IPMs可以表示为不同样本采样方案的最大似然估计值。
- 导出了IPMs的统一形式和松弛估计方法。
- 构建了无限制最大似然估计器以执行分层采样方案的DRE。
- 提出了新的概率差异类,称为密度比度量(DRMs),连接KL散度和IPMs。
- 介绍了DRMs的应用,包括密度比估计和生成对抗网络(GAN)。
- 实验验证了所提出方法的有效性。
➡️