该文综述了信息熵与互信息估计的多项研究，包括：基于再生核希尔伯特空间算子的非参数熵测度（避免估计概率分布）、数据高效的神经网络互信息估计法DEMINE及Meta-DEMINE、深度学习模型中熵与互信息的可计算建模、熵在信息提取中过拟合的作用及TIER-A框架、矩阵Renyi熵及CNN协同与冗余分析、用PCA解决高维微分熵估计、RecNet恢复受损音频流信息、MINE估计高维互信息、变分量子算法估计量子熵，以及用量子统计力学定义复杂网络熵度量。