关于计算高效学习指数族分布的研究

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

本文提出了一种新的损失函数和计算高效的估计器,用于参数估计。该方法被视为同一类指数族的重新参数化分布的最大似然估计,并证明了其一致性和渐近正态性。同时,提供了有限样本保证和节点稀疏马尔可夫随机场的优化样本复杂度。数值实验表明该方法的性能良好。

🎯

关键要点

  • 提出了一种新的损失函数和计算高效的估计器。

  • 该方法在温和条件下是一致且渐近正态的。

  • 将方法视为同一类指数族的重新参数化分布的最大似然估计。

  • 证明估计器可以解释为最小化特定的 Bregman 得分和最小化代理似然的实例。

  • 提供有限样本保证,实现误差为 α,样本复杂度为 O(poly(k)/α²)。

  • 在节点稀疏马尔可夫随机场中,优化样本复杂度为 O(log(k)/α²)。

  • 通过数值实验展示了估计器的良好性能。

➡️

继续阅读