关于计算高效学习指数族分布的研究
💡
原文中文,约400字,阅读约需1分钟。
📝
内容提要
本文提出了一种新的损失函数和计算高效的估计器,用于参数估计。该方法被视为同一类指数族的重新参数化分布的最大似然估计,并证明了其一致性和渐近正态性。同时,提供了有限样本保证和节点稀疏马尔可夫随机场的优化样本复杂度。数值实验表明该方法的性能良好。
🎯
关键要点
-
提出了一种新的损失函数和计算高效的估计器。
-
该方法在温和条件下是一致且渐近正态的。
-
将方法视为同一类指数族的重新参数化分布的最大似然估计。
-
证明估计器可以解释为最小化特定的 Bregman 得分和最小化代理似然的实例。
-
提供有限样本保证,实现误差为 α,样本复杂度为 O(poly(k)/α²)。
-
在节点稀疏马尔可夫随机场中,优化样本复杂度为 O(log(k)/α²)。
-
通过数值实验展示了估计器的良好性能。
➡️