魔术师:基于样本的最大熵源分布估计

💡 原文中文,约200字,阅读约需1分钟。
📝

内容提要

本研究使用逼近理论法对离散分布P进行n个独立同分布样本的香农熵估计,实现了在估计熵的最小二乘率方面的极致。通过自适应估计框架,在分布P的嵌套子序列上实现了最小二乘率的估计,证明了在样本n的情况下是最优的。

🎯

关键要点

  • 本研究针对离散分布 P 进行香农熵估计。
  • 使用逼近理论法进行 n 个独立同分布样本的估计。
  • 实现了在估计熵的最小二乘率方面的极致。
  • 采用自适应估计框架进行最小二乘率的估计。
  • 证明了在样本 n 的情况下估计是最优的。
  • 估计结果基本上相当于 MLE 使用 nlnn 个样本进行估计。
➡️

继续阅读