通过$f$-散度损失函数在密度比估计中的$L_p$误差界限
原文中文,约300字,阅读约需1分钟。发表于: 。本研究解决了密度比估计中的$L_p$误差界限问题,提出了基于$f$-散度损失函数的新视角。研究表明,对于任何利普希茨连续估计器,$L_p$误差的上下界与数据维度以及密度比的期望值有关,尤其是在$K$-发散度较大时,误差显著增加。该理论结果通过数值实验加以验证,具有重要的理论意义和实际应用潜力。
本文从最大似然密度比估计的角度统一解释了KL散度和积分概率度量。通过不同的样本采样方案,将它们表示为最大似然估计值,导出IPMs的统一形式和松弛估计方法。提出了密度比度量(DRMs),连接了KL散度和IPMs,并应用于密度比估计和生成对抗网络。实验验证了该方法的有效性。