通过$f$-散度损失函数在密度比估计中的$L_p$误差界限

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本文从最大似然密度比估计的角度统一解释了KL散度和积分概率度量。通过不同的样本采样方案,将它们表示为最大似然估计值,导出IPMs的统一形式和松弛估计方法。提出了密度比度量(DRMs),连接了KL散度和IPMs,并应用于密度比估计和生成对抗网络。实验验证了该方法的有效性。

🎯

关键要点

  • 本文从最大似然密度比估计的角度统一解释KL散度和积分概率度量(IPMs)。
  • KL散度和IPMs可以表示为不同样本采样方案的最大似然估计值。
  • 导出了IPMs的统一形式和松弛估计方法。
  • 构建了无限制最大似然估计器以执行分层采样方案的DRE。
  • 提出了新的概率差异类,称为密度比度量(DRMs),连接KL散度和IPMs。
  • 介绍了DRMs的应用,包括密度比估计和生成对抗网络(GAN)。
  • 实验验证了所提出方法的有效性。
➡️

继续阅读